佬们,你们使用gpt6的时候进行远程压缩时大概要多久啊?为什么我每次都要三四分钟。之前使用sol的时候一般也就30s-1m的样子
2 个赞
传统压缩也很慢,感觉就是整体很慢,不知道是做了什么特殊的针对压缩这个行为的识别和优化吗?
1 个赞
不太理解,sol的tps也算不上快,但是压缩时间明显比astra快的多
1 个赞
确实很慢的,甚至遇到了等压缩的时候cli里面弹窗说正在忙让我切换回快速模型 ![]()
我的astra都没上过35tps 一般都是15-30徘徊 (这也太可怕了,本地部署的千问3.8flash-next都有35-40 tps
2 个赞
我也是 经常压缩失败
1 个赞
新的实验性压缩方式几乎10秒不到就完事了,目前用下来感觉还不错,只是要做好上下文的管理,重要的东西单独维护一个载体
佬,这个新压缩方式是要在codex里面用oauth吗? 是不是连接到cpa里面不行呢(cpa里面也是oauth登录的呢)
这个我不太清楚,我是在Codex里面用的,是oauth登录
2 个赞