10.1 OpenAI DevDay 总结 | o1 速率限制翻倍 | 自动提示缓存 | 实时对话 API 等

OpenAI 本次开发者大会总的来说没有过于超前的内容,但依然更新了些方便用户与开发者的东西.

  1. 最为重要的,o1 目前 API 速率限制终于翻倍,达到与 4o 相同的 10k RPM. (Tier 5) o1-mini 的速率限制也来到了 30k RPM. Source
  2. 发布了实时对话 API, 支持 文本 / 语音 的输入与输出. (本质上就是之前那个对话的 API 版本) Source
  3. 提示缓存,但自动化!虽然相比较其他公司的模型,折扣只有 50%, 但至少自动调用,不需要对 API 做出修改. Source
  4. 更好的 JSON 格式化输出.
  5. 支持图片微调了. Source
  6. 今年年底前预计能上线 o1 的函数调用. (大饼很香)

绝大多数内容官方文档已经更新,可自行查看细节.

News Source

11 Likes

感谢分享,mark

deepseek 直呼内行

1 Like

o1下降到Tier 3可用

感谢分享大佬厉害啊

有点小提升吧

感谢大佬分享

感谢大佬分享!!1