我裂了,关于new api的模型重定向

在薅神墨佬的羊毛。可用的模型里有“gpt-3.5-turbo”但不能用,没有“gpt-4-turbo”,但有“glm-4v“,不想输入”llama3-8b-8192“这么长的名称,想用”llama”所以想模型重定向来使用。这六个模型都添加到了“模型组”里了。new api 的版本是始皇刚发布的“ New API v0.2.2.0-alpha.27
测试3.5-turbo是“502”错误;4-turbo和llama是“503”错误。

{
“gpt-3.5-turbo”: “glm-3-turbo”,
“gpt-4-turbo”: “glm-4v”,
“llama”: “llama3-8b-8192”
}

1 Like

你直接点测试是不会按照你的模型映射来测试的,只会测试字面意思上那个模型。

实际调用中会按照映射来

1 Like

那看来berry作者的one-api又更胜一筹哈哈:yum:

image

image

2 Likes

相信始皇会修复这个的!

2 Likes

谢谢回复,我去测试一下。果真如您所说!!感恩!

1 Like

果然,马老师太强了