中转渠道如何负载均衡?

我搞了一堆copilot账号,全部写进one-api里,但是他在调取的时候老是喜欢只调用其中几个,一秒内经常就只让某个渠道拼命的工作,导致经常出现422问题,我想让他每个渠道都工作,怎么弄才好呢?(简单来说就是,一秒内遇到新的请求优先让没在干活的渠道响应这个请求。)

设置权重

常规话题快问快答

oneapi 没有负载均衡,设置优先级后纯随机,newapi 这方面做得稍微好一点点

我现在用new-api,也是一样,喜欢集中在一个渠道。在哪里设置权重?如果是设置优先级的话,好像和我想要的负载均衡背道而驰吧。

1 个赞

优先级旁边就是权重

image

1 个赞

最新的newapi好像在gemini上好像有点问题。
刚从newapi回到了oneapi

1 个赞

哈哈我两个一起用