Open WebUI中的语义向量模型引擎到底该怎么设置?求大佬教学

一切都源于我昨天参照佬友的教学文章[超详细教学] 教你从零开始,入坑域名、云服务器并部署 New API + Open WebUI!在自己的VPS上搭建好了Open WebUI。

大部分功能都是运转正常的,但问题就出在了管理员面板-设置-文档-语义向量模型这里。

我想要使用硅基流动提供的免费BAAI/bge-m3服务,但是无论如何设置,都无法实现,于是特别苦恼。

我目前尝试过的设置方法:直接在“管理员面板-设置-文档-语义向量模型”部分填入硅基流动的API&Key信息,在语义向量模型中填入“BAAI/bge-m3”,发现无法正常工作。

即时是在关闭混合搜索的情况下,我的GPT-4o模型依然无法读取文档内容。

对了,将向量模型引擎设置为“默认”,就都是一切正常的。

实在是很苦恼orz

80 个赞

one 或new api转openai格式

8 个赞

我有试着这样子转过(密钥也有填写),同时把管理员面板那里的向量模型API变成NewAPI的配置信息,但还是不能让GPT读取文档信息。

6 个赞

我怀疑是硅基流动这个向量模型的 API 不是 OpenAI 格式

不对,转了咋还不行)

但说真的,你就算用OpenAI的text-embedding-3-large也花不了几毛钱

5 个赞

那佬友还有推荐的Open WebUI可用的语义向量模型吗?

5 个赞

ping api.siliconflow.cn

13 个赞


正常的。

7 个赞

text-embedding-3-large ,又好又快又便宜

9 个赞

用 OpenAI 的语义向量模型吧
text-embedding-3-small

8 个赞

那不应该啊,api是openai格式的

6 个赞

读论文这些比较多的话,开销也不会很大是吗?没有研究过它的价格:eyes:

9 个赞

买官Key吗

7 个赞

非常非常非常便宜,你不是大公司装进超大的知识库,基本上都不可能花超过几毛钱

7 个赞

中转站一般都有
是学生的话也可以去白嫖 azure

7 个赞

我就用的国内中转的

6 个赞

好的,我这就去尝试一下始皇的API!

11 个赞

好的,谢谢大佬!!!

12 个赞

始皇那边是官网原价采购的,可能会贵一些)

10 个赞

可以给我点个解决方案

13 个赞

他这个帖子不是求助帖)

11 个赞