我搞了一堆copilot账号,全部写进one-api里,但是他在调取的时候老是喜欢只调用其中几个,一秒内经常就只让某个渠道拼命的工作,导致经常出现422问题,我想让他每个渠道都工作,怎么弄才好呢?(简单来说就是,一秒内遇到新的请求优先让没在干活的渠道响应这个请求。)
我搞了一堆copilot账号,全部写进one-api里,但是他在调取的时候老是喜欢只调用其中几个,一秒内经常就只让某个渠道拼命的工作,导致经常出现422问题,我想让他每个渠道都工作,怎么弄才好呢?(简单来说就是,一秒内遇到新的请求优先让没在干活的渠道响应这个请求。)
设置权重
oneapi
没有负载均衡,设置优先级后纯随机,newapi
这方面做得稍微好一点点
我现在用new-api,也是一样,喜欢集中在一个渠道。在哪里设置权重?如果是设置优先级的话,好像和我想要的负载均衡背道而驰吧。
优先级旁边就是权重
最新的newapi好像在gemini上好像有点问题。
刚从newapi回到了oneapi
哈哈我两个一起用