ai的api,如何负载均衡?

[Bubble7766]

我手上有好几个key,想要通过负载均衡来避免受到速率限制

new-api,设置优先级和权重都是0,结果一直在使用第一个渠道,很快遇到速率限制
uni-api没可视化界面,看使用情况不方便
n8n也试了下,添加删除渠道很麻烦

各位佬友有什么好方案吗

[bbn (dmit)]

刚好我也想了解下

[bingloo (落叶)]

可以发我，我来帮你负载均衡

[zhong_little (Megasoft)]

new-api 是不是开 redis 缓存了？正常情况应该不会一直在使用某个渠道吧

[Bubble7766]

没有设置redis欸,但是就是一直使用一个渠道

[leowyzhang]

我的很正常

[leowyzhang]

我优先级都设置了值，权重没设置

[Bubble7766]

我设置下优先级试试

[Bubble7766]

真的是… 把优先级全部设置成1就正常了