昨天凌晨OpenAI的发布会,各位没看过也听说过了。那些玄幻的音/视频对话倒是没上线。但 gpt-4o
这个模型的 text
和 vision
能力上线了,并且开放了API调用。
API按照官方定价,只有 gpt-4-turbo
的一半,相当具有性价比了。但其实 gpt-4o
的Token计算方式也迎来了更新,不再使用 gpt-3.5
和 gpt-4
系列的 cl100k_base
,改成了更便宜的 o200k_base
。
OpenAI官方的仓库已经率先更新,不过只有 python
版本。他们的测试工具页面还未更新,显示 coming soon
。
接下来就是我要说的重点,市面上现有的 one-api
和 new-api
等等依赖的 tokenizer
是一个 8个月 未曾维护的 golang 实现库: GitHub - pkoukk/tiktoken-go: go version of tiktoken 并不支持最新更便宜的 o200k_base
计算。
所以理论上使用这些做中转网关,调用 gpt-4o
价格是比官方更高的。于是我Fork了一份,添加了支持:GitHub - linux-do/tiktoken-go: go version of tiktoken 也已经在我魔改的 new-api
中更新: GitHub - linux-do/new-api: 基于One API的二次开发版本,仅供个人管理渠道使用,请勿用于商业API分发!
oaipro也已经使用了最新的Token计算方式,实在、省心。
结论是:gpt-4o
价格只有 gpt-4-turbo
的一半不到。
最后欢迎各位PR,谢谢。