搞了好多Gemini Pro的API怎么弄成轮询啊?想让rpm大一点

搞了好多Gemini Pro的API怎么弄成轮询啊?想让rpm大一点
感谢大佬们

oneapi就可以做到负载均衡

1 个赞

渠道写多个还是令牌写多个呀?

渠道

1 个赞

多弄几个APIKEY,全加到oneapi里

1 个赞

使用github的oneapi项目即可实现key池自动轮询,可docker一键部署

1 个赞

谢谢!!!!

谢谢大佬

这确实是个好问题

有答案啦,oneapi有负载均衡

我用的是oneapi,今天全部429了,有类似情况吗

不知道呀,看看是不是被封了