newapi是否支持渠道聚合的功能?将多个渠道的api key统一按一个模型暴露出去

比如我用两个号注册火山引擎,分别拿到了deepseek的50w额度


如上图,把两个号的r1模型都映射为了hs/deepseek-r1,这种在owu里调用可以做到会随机选择一个渠道吗?我还看到newApi似乎有个标签聚合的功能,这个功能是我想要的吗?


如果渠道聚合后,会因为每次请求选择不同的渠道,导致一次对话上下文出问题,ai无法找到之前的上下文出问题吗

是的。tieba_087

1 个赞

是的

不会

2 个赞

好的,那也就是说,newapi只需要将多个渠道的模型统一暴露为一个名称,在openwebui里就可以正常使用,会分别消耗多个渠道的api token是吧

newapi还是两个渠道

然后通过渠道优先级来实现一定比例的负载均衡吗

随机调用,优先调用优先级高的,优先级高的被禁用时会调用优先级低的

1 个赞

佬说的没错,再补充一下case:

  1. 按优先级分组,优先级高(数值大的)优先;
  2. 同一优先级内,按权重随机选择渠道;
    3.如果开启了重试,请求失败之后会降级到下一个优先级内再选渠道
2 个赞

刚想问优先级怎么设置,就看到佬的回答出现了

看到了有个权重,感谢,另外想问下owu调的时候随机选一个渠道,但会话内不影响的原因是显示上下文传递,每次请求都把之前的内容传给了ai的原因吗,所以每次请求都是独立的?

是的,请求带完整会话上下文的。所以上下文太长了响应会变慢。