【T佬】GPT-Load 1.4版本发布 - 聚合分组与模型重定向功能结合

[issa (issabella)]

支持，更加支持适用性了

[zhezhe (zhe)]

支持T佬~

[Pokeman]

支持T佬，我用clawRun批量检测大量KEY后面会出现503不知道啥问题。看看新版本还有没有这问题。

[memor221 (回忆)]

忘了追更了，还用的之前的版本，原来已经有聚合功能了，这样就更好用了

[huzhanqiu (我贾诩)]

支持支持

[songbailu]

提个需求,给规则和参数添加示例写法,我记得以前版本有的,另外什么时候能处理一下版本显示问题,强迫症实在难受.

[tbphp (唐洛)]

是有的，应该是保存后会设置默认值就覆盖了。
你把默认的 “{}” 删了就能看到，新建时也能看到提示格式。

[yuexiaduzou (独奏)]

支持支持

[wycbug]

后排支持，已更新

[sddxsm]

聚合之后多个渠道模型不一致怎么处理呀

[tbphp (唐洛)]

我这帖子不就是说这个问题的吗？……
看帖子内容，还有帖子链接的文档。

[sddxsm]

佬，我再问下 聚合分组的模型列表是怎么确定的呢？ 左右渠道的汇总吗还是怎么？

[sddxsm]

好像大概知道啦

[join2 (皮皮不太皮)]

我的还是1.0几吧，一直懒得更新哈哈哈

[mikeee (mikey)]

@tbphp

模型重定向

感谢大佬，试了一下聚合分组+模型重定向，挺好用的 。和litellm 一样，但litellm 得折腾yaml文本文件，而且没热拔插。有没办法设fallback：一个组的模型请求失败时自动跳下一个组

[E0010 (一般路过不热心群众)]

感觉聚合不会用，毕竟多渠道请求上游肯定不一样的，添加不进来

[mikeee (mikey)]

模型重定向 整成一个模型。还是比较好理解哈

[paopao]

其实有些细节还是需要稍稍有点深度的重写的，比如我需要以openai格式来让gemini读视频 虽然这个需求比较抽象

[Josoen309 (季嵩)]

也是久闻GPT-load大名了，我有个疑惑，如果只是个人部署使用的话，GPT-load和New-api这种项目的区别（侧重点）在哪里呢？两个项目之间如何取舍呢？

[tbphp (唐洛)]

new-api功能更丰富：计费、统计tokens、用户管理等等。
gpt-load重在透明代理和多密钥轮询。

根据需求选择，或者两者配合一起用也行。