如题,模型上下文怎么知道限制是多少?很多公益站都没有写这个。难道需要一个一个尝试吗?还是GET /v1/models可以知道?ccswitch中都是默认128k,太少了
一般站都不会故意限制上下文,官方多少就是多少,你直接在openrouter上搜这个模型就知道了
pi.dev/models
models.dev
实在不行自己压测一下
128k太少了,装几个skill就没了。你可以让AI自己测自己,或者问一下,一般都有答复。
我干过这事,猫猫头的黑店的国模之前就有上下文和官方不对齐的情况,我就让codex去起了个脚本压测
这里面有汇总的LLM Leaderboard
在 Compare models板块可以看 context size
一般我同id上openrouter拉
pi也可以