比如我用两个号注册火山引擎,分别拿到了deepseek的50w额度
如上图,把两个号的r1模型都映射为了hs/deepseek-r1,这种在owu里调用可以做到会随机选择一个渠道吗?我还看到newApi似乎有个标签聚合的功能,这个功能是我想要的吗?
如果渠道聚合后,会因为每次请求选择不同的渠道,导致一次对话上下文出问题,ai无法找到之前的上下文出问题吗
比如我用两个号注册火山引擎,分别拿到了deepseek的50w额度
如上图,把两个号的r1模型都映射为了hs/deepseek-r1,这种在owu里调用可以做到会随机选择一个渠道吗?我还看到newApi似乎有个标签聚合的功能,这个功能是我想要的吗?
如果渠道聚合后,会因为每次请求选择不同的渠道,导致一次对话上下文出问题,ai无法找到之前的上下文出问题吗
是的。
是的
不会
好的,那也就是说,newapi只需要将多个渠道的模型统一暴露为一个名称,在openwebui里就可以正常使用,会分别消耗多个渠道的api token是吧
newapi还是两个渠道
然后通过渠道优先级来实现一定比例的负载均衡吗
随机调用,优先调用优先级高的,优先级高的被禁用时会调用优先级低的
佬说的没错,再补充一下case:
刚想问优先级怎么设置,就看到佬的回答出现了
看到了有个权重,感谢,另外想问下owu调的时候随机选一个渠道,但会话内不影响的原因是显示上下文传递,每次请求都把之前的内容传给了ai的原因吗,所以每次请求都是独立的?
是的,请求带完整会话上下文的。所以上下文太长了响应会变慢。