codex开启remote compact原生压缩(0.118.0版本可用)

codex会根据provider name是不是OpenAI来进行本地compact或者remote compact
codex的远程compact会比一般的本地compact效果好一些,走的是openai的官方请求,原生压缩,本地compact就是使用提示词进行本地compact

远程compact走的是/v1/responses/compact端点,本地compact走的就直接是/v1/responses端点。local compact有可能会在compact的时候显示warning,说“Heads up: Long threads and multiple compactions can cause the model to be less accurate. Start a new thread when possible to keep threads small and targeted.”,remote compact不会 :bili_038:

之前有在站内看到过开启方法,最近折腾了一下发现,现在需要把所有的model_provider都改成OpenAI才行:

model_provider = "OpenAI"
...

[model_providers.OpenAI]
name = "OpenAI"

试了一下,crs反正是没问题的,可以看到请求了这个端点:

11:59:47 Selected OpenAI account: xxx
11:59:54 🟢 200 POST /openai/v1/responses/compact  7319ms 0B

原理的话,知乎上好像有篇文章(不过看着是gpt润色的…)
https://zhuanlan.zhihu.com/p/2019807681553146393

23 个赞

所以说直接在配置里面改供应商名称就能行?

1 个赞

对的,codex就是只根据供应商名字判断 :joy:
当然,需要你的中转站支持压缩端点, crs,cpa应该都没问题

已经是旧饭了

3 个赞

看完了,不像 gpt 润色

codex 的压缩大致上讲的是对的
这几天在测试上下文压缩的服务,codex 压的比较极端
不过模型强,所以能接续任务

1 个赞

不知道,可能我看到“落”就ptsd了 :joy:

3 个赞

CPA还要模型映射

1 个赞

佬,这是何意~我是cpa 正准备改

1 个赞

可惜我用的axonhub不支持这个端点

1 个赞

谢谢佬分享。 我说怎么看见有些公益站有 v1/responses/compact api,原来是干这个的。 :+1: :folded_hands: :grinning_face:

1 个赞

佬,我这里 cpa 没有配置任何东西,
只是改了 codex 的config.toml之后,佬我这是触发了 远程压缩了吗


1 个赞

codex普号挂在了cpa,压缩的时候直接断开了连接,https://chatgpt.com/backend-api/codex/responses/compact,cpa报500 unexpected EOF

2 个赞

让codex或者claude给你看看,我没在cpa试过~