没找到开发者的 L 站账号,不知道有没有人帮忙 @一下
希望可以做多 key、多 api 的负载均衡
适用公益 api 场景
22:11
抱歉没有注意逗号隔开的多 key 均衡,需求仅剩下多 API 啦~
没找到开发者的 L 站账号,不知道有没有人帮忙 @一下
希望可以做多 key、多 api 的负载均衡
适用公益 api 场景
22:11
抱歉没有注意逗号隔开的多 key 均衡,需求仅剩下多 API 啦~
,隔开
多key直接用英文逗号隔开就行
楼主说的是不同api供应商,不是key的事
复杂了,不太符合这个软件,不如用newapi转一下
@kangfenmao
大佬在这里
自定义添加模型时,提供商只有3个
是的。那您要添加哪家的?
我的理解是,官key只有一个api地址,key可以轮,所以不用加新渠道;中转的基本都是openai格式,可以无限添加。
如果说得不对,您指正。
github提
比如Azure OpenAI的终结点是不一样的,但新增模型时却没有Azure OpenAI提供商
这个说的是并行吧,甚至是轮询可用的服务?
这个界面是什么工具?
你的这个需求,上 oneapi 吧,解决多渠道多 api 的负载均衡
你这个应该上Dify了
还有代理设置的问题,由自定义代理切换为不使用代理后,填的代理socks5://127.0.0.1:****就不保存了,下次切换又要填一次
dify乜意思啊佬
就是如果你想要接入N多种不同格式的api,那cherry就不如直接用dify了。或者换chatbox试试看呢?