人工智能公司 OpenAI 今日 (16日) 宣布推出批处理 API。只需上传批量请求文件,即可在24小时内收到结果,并享受 API 价格50%的折扣。新的批处理 API 适用于异步任务处理,例如摘要、翻译和图像分类时,就可以使用该 API,然后会在24小时内给出处理结果。这样 OpenAI 可以在非高峰期处理,节省服务器资源并解锁更高的速率限制。
佬友们怎么看
人工智能公司 OpenAI 今日 (16日) 宣布推出批处理 API。只需上传批量请求文件,即可在24小时内收到结果,并享受 API 价格50%的折扣。新的批处理 API 适用于异步任务处理,例如摘要、翻译和图像分类时,就可以使用该 API,然后会在24小时内给出处理结果。这样 OpenAI 可以在非高峰期处理,节省服务器资源并解锁更高的速率限制。
佬友们怎么看
感觉用处不大,脱离了实时性估计没什么客户愿意用。不过我觉得倒是利好那些用OpenAI做训练的国产模型
闲时api?感觉半价没有特别心动啊
这对于个人用户来说只能是莫名其妙……
大批量处理半小时一小时什么的我还能忍,24小时???
From #develop:ai to #share