Tibo 更新 Day 16:API 缓存的时长可达 12 小时;登录用户无论在 Codex 还是 Work 中,缓存都会永久保留

Day 16/

You can now cache for 12h in the API and for logged in users across Codex & Work we keep cache forever and you don’t have any penalty for coming back to an old conversation or resuming after a few hours and are now guaranteed to hit the cache.

第 16 天/

现在 API 的缓存时长可达 12 小时;对于 Codex 和 Work 的登录用户,我们会永久保留缓存,所以回到旧对话或隔几个小时再继续时不会受到惩罚,并且保证能命中缓存。

15 个赞

坏了,给他从DeepSeek那学到真的了(doge

17 个赞

总算是有点新活了,这个还是不错的

不知道使用自己搭建的cpa或者中转站的用户算哪一种呢

什么叫we keep cache forever…

对,我也想问这个,反代的属于什么情况啊

Tibo肯定在摸鱼刷L站,众筹Day28 :slightly_smiling_face:

个人猜测:如果说是号池的话,负载均衡可能会影响到缓存命中,因为每次请求的账户可能不一样。

1 个赞

这个还真有用,今天给 tibo 呼吸权一天

1 个赞

卧槽牛逼啊,A/什么时候跟进一下,Claudecode 的用法也就不用再搞什么 compact 大法了。

DS 真是 yyds 啊:face_savoring_food:

1 个赞

真正的 OpenAI
让大家用上普惠的 token 是 DeepSeek 的理想

跟账户没有关系,是跟随会话 id 的

1 个赞

永久缓存成本真的受的了吗?感觉像DS那样缓存72h就很可以了

可算有一个值得一提的更新了。
针对上下文理解应该是根据会话ID来,中转应该不敢用同一个会话ID,永久缓存可能会被连坐,对于中转来说缓存可能没了。

这样的话,反代也是永久缓存了?

我滴个妈妈呀 永久缓存都来了

如果是根据会话 id 永久缓存的话,那应该是。

1 个赞