GPT6.1 sol 缓存命中率飙升了,现在开高上下文,是否可行?

之前开1M上下文蹬Astra,额度像水一样!

现在是否会好很多?有没有佬测试过?

Astra是因为他api本身贵啊,:thinking:。
要是gpt-6-sol其实开1m也没有想象中用额度那么快其实
长上下文主要是注意力会漂移的问题,高于那400k的甜点上下文以后的部分,会变得很不幸:pensive_face:

这个6.1-sol的长上下文计费也是翻倍吗

今天一直提示 at capacity

6.1是真耐用,就是慢,Plus都可以放心蹬。

1m上下文,开max+fast蹬,非常耐用,速度也能接受。