one-api负载均衡疑问

one-api负载均衡不能实现在同一个渠道,多个key分担吗?只能一个key?
比如我想在gemini渠道,填写多个key以","隔开,比如key1,key2,key3

还是说只能多创建相同渠道,每个渠道一个key?

4 个赞

我也有这个需求,蹲个佬回答

1 个赞

我都是创建多个渠道的,也想问下,好像没找打可以一个渠道填多个key

1 个赞

还有一个问题,这个测试渠道为啥测试之后有数字,但是实际错误(前端请求报错)。似乎不管似乎测试成功都会有数字而不报错
小白第一次用oneapi不太明白(昨天热心佬友帮我用serv00搭建的)

1 个赞

这样有点难管理的感觉,key太多了,而且还是相同的渠道

虽然我没用过new/one-api 我自己写了一个uni-api 来解决new/one-api的复杂性,uni-api 是支持一个渠道多个key的负载均衡的。可以看项目文档。链接:

佬 你这个之前看过,正等cf支持python后你适配cfworker呢(你之前说不久后cf会支持python),或者vercel(因为我没有服务器,我看不是oneapi或newapi这些中转都需要服务器来着)

话说 佬 你这个支持serv00吗

这个测试渠道通不通的,之前我看有佬说有的即使测试不通也是能用的,但我用的时候测试不同用不了,测试通的一般都可以用,暂时没碰到过测试通过的用不了的情况,可能需要其他佬回答了

在new-api中添加gemini的模型,渠道测试也是通的,postman调用也可以,但是我在chatgpt-next-web中是不能使用gemini模型的,我是把gemini模型重定向另外的一个名字,才可以。

好的我 我最近适配了一下vercel。server00我也不知道能不能用。我研究一下吧。

佬 等你好消息,造福小白,你配享太庙

1 个赞

佬 你平常如何判断一个渠道是否有错呢?
它这个渠道测不通,误导性很强啊
假设我有两个相同渠道gemini,其中一个是错误的(key无效),但是这俩模型使用的都是gemini系列模型比如gemini-1.5-pro
但是测渠道的时候又会显示有数字,所以这种情况应该如何判断啊
给点技巧呗

只能一个渠道一个 key,要负载的话只能创建多个渠道。

好吧 看来是这样了

我排查中途有问题的key是用的笨方法 :tieba_087:,我会把一个个测试渠道单独改成其他组vip或者svip,然后用个单独账号测试,还好我渠道不多,个人用用的 :joy:不过我记得论坛好像有测试的工具,你可以搜一搜

好吧 感谢分享

key1,key2,key3

其中一个 key 失效了,你也不知道吧?建多个渠道单一管理也好

是的,创建的时候可以批量创建,但每个渠道只支持一个key


还真有批量

看了一下 serve00 应该是可以的,我的serve00上预装了python pip git这些命令,你可以通过git下载源码,再通过pip 安装依赖来运行uni-api,你先试试,如果你不会的话,我可以写个教程在README。

1 个赞