给Cherry提个功能请求

没找到开发者的 L 站账号,不知道有没有人帮忙 @一下
希望可以做多 key、多 api 的负载均衡
适用公益 api 场景

22:11
抱歉没有注意逗号隔开的多 key 均衡,需求仅剩下多 API 啦~

11 个赞

,隔开tieba_087

2 个赞

多key直接用英文逗号隔开就行


多个密钥使用逗号隔开

1 个赞

楼主说的是不同api供应商,不是key的事

复杂了,不太符合这个软件,不如用newapi转一下

1 个赞


多api是什么意思,是我理解的那个吗,意义不大吧感觉作者不会加

@kangfenmao
大佬在这里

多api可能指的是多来源?新建几个不是就OK了。
还是我理解错了- -。。。


自定义添加模型时,提供商只有3个

是的。那您要添加哪家的?
我的理解是,官key只有一个api地址,key可以轮,所以不用加新渠道;中转的基本都是openai格式,可以无限添加。
如果说得不对,您指正。

github提

比如Azure OpenAI的终结点是不一样的,但新增模型时却没有Azure OpenAI提供商

这个说的是并行吧,甚至是轮询可用的服务?

这个界面是什么工具?

你的这个需求,上 oneapi 吧,解决多渠道多 api 的负载均衡

1 个赞

你这个应该上Dify了

还有代理设置的问题,由自定义代理切换为不使用代理后,填的代理socks5://127.0.0.1:****就不保存了,下次切换又要填一次

dify乜意思啊佬

就是如果你想要接入N多种不同格式的api,那cherry就不如直接用dify了。或者换chatbox试试看呢?