代理栏不填
测试不通过
令牌就用一个通用的
open webui文档这里填的是new api创建的令牌key
实际使用
需要点击右上角使用整个文档才能识别出来。
遇到的问题是new api日志中没有硅基这个向量模型的使用记录，请问各位大佬哪一步出了问题
5 Likes
@lurk @Arthur63 @Marshi @bbb @kino @shiyue @zhong_little 各位大佬帮忙看一下，实在搞不会了，都想搞个one api试下了，不知道是new api还是硅基流动的问题
OpenAI, #人工智能添加，#纯水移除
现在你的serv00能访问到硅基的地址么
1 Like
什么意思？小白不太懂，怎么操作？newapi日志中没有硅基向量模型的使用记录
从你的serv00上执行一下
curl -v https://api.siliconflow.cn/v1/chat/completions
看看返回个啥内容。没有curl的话装一个，用完再卸载
1 Like
先看看你硅基的其他模型能不能用，不能用的话看看你newapi配置
2 Likes
- newapi 里测试不通过，正常，因为测试都是按照 chat 接口的，要测试可以跑这个 curl 请求：
curl https://xxx.newapi.xxx/v1/embeddings \
-H "Content-Type: application/json" \
-H "Authorization: Bearer $YOUR_API_KEY" \
-d '{
"input": "hello world",
"model": "BAAI/bge-m3"
}'
- 日志记录无补全，正常，只计算输入 token，这是我跑的两个例子对应的日志，通过 new 调用 BAAI/bge-m3 是没问题的
- 该嵌入模型在硅基上是免费模型， rpm 2000，所以应该也不是硅基令牌没钱的问题
- 那就说明可能是没有发送请求、或者请求没有发到 newapi 上，考虑到你对话是能正常进行的，那问题大概率就出在 openwebui 没有进行文件 rag 操作，从而没有提交 embedding 请求了
2 Likes
那就是你的serv00访问不到硅基流动了
1 Like
连接验证能通过吗。
为什么还要使用vpn,这没影响吧
1 Like
可以了，在open webui容器日志里查了，确实使用了向量模型。
