众所周知 deepseek率先打响了模型 价格在几乎所有AI厂商 紧随其后开始降价
Deepseek是真想给用户省钱
于是推出了缓存机制
其他AI公司呢
13 个赞
有的兄弟，有的
3 个赞
豆包1.5-pro和lite也有缓存了，不过需要自己开通
1 个赞
Prompt Caching in the API | OpenAI
不過我覺得緩存機制是敗筆吧，缺點挺多的，
每個人都得到相同的結果、敏感信息可能洩漏等，
而且廠商降低成本也不一定會回饋給用戶
1 个赞
api都有啊 openai claude 都有自己的缓存实现
至于原因也很简单 花大价钱做完 结果自己收入更少
除非算力紧张 做这玩意收益不高
但是豆包的API真的很难用，和其他家的使用逻辑完全不一样，关于这个上下文缓存的文档写的也很抽象
2 个赞
oai有缓存的
1 个赞
会不会出现要写工作总结，大家交上去都是一样的 
你理解错缓存机制了，不是缓存“输入→输出”对，而是缓存“输入→模型特征”
1 个赞
御三家都有缓存，还有很多家也有
1 个赞
缓存的是kv哈
有的吧？
没明白所谓的缓存是指哪一部分
我记得都是有的？一开始 deepseek 没缓存，token 跟流水一样
2 个赞
是gemini（google）先提出的缓存降价，然后其他AI才陆续跟进的
2 个赞
谷歌和openai好像也有吧，就是需要手动配置，麻烦
1 个赞
有几年前阿里云开发的时候那味了，各种弯弯绕绕。平台大就这点不好
1 个赞
豆包也有缓存，得自己花钱开
1 个赞
有的 兄弟 有的
此话题已在最后回复的 30 天后被自动关闭。不再允许新回复。