astra远程压缩速度很慢

佬们,你们使用gpt6的时候进行远程压缩时大概要多久啊?为什么我每次都要三四分钟。之前使用sol的时候一般也就30s-1m的样子

2 个赞

传统压缩也很慢,感觉就是整体很慢,不知道是做了什么特殊的针对压缩这个行为的识别和优化吗?

1 个赞

不太理解,sol的tps也算不上快,但是压缩时间明显比astra快的多

1 个赞

确实很慢的,甚至遇到了等压缩的时候cli里面弹窗说正在忙让我切换回快速模型 :rofl:

我的astra都没上过35tps 一般都是15-30徘徊 (这也太可怕了,本地部署的千问3.8flash-next都有35-40 tps

2 个赞

我也是 经常压缩失败

1 个赞

新的实验性压缩方式几乎10秒不到就完事了,目前用下来感觉还不错,只是要做好上下文的管理,重要的东西单独维护一个载体

佬,这个新压缩方式是要在codex里面用oauth吗? 是不是连接到cpa里面不行呢(cpa里面也是oauth登录的呢)

这个我不太清楚,我是在Codex里面用的,是oauth登录

2 个赞