一切都源于我昨天参照佬友的教学文章[超详细教学] 教你从零开始,入坑域名、云服务器并部署 New API + Open WebUI!在自己的VPS上搭建好了Open WebUI。
大部分功能都是运转正常的,但问题就出在了管理员面板-设置-文档-语义向量模型这里。
我想要使用硅基流动提供的免费BAAI/bge-m3服务,但是无论如何设置,都无法实现,于是特别苦恼。
我目前尝试过的设置方法:直接在“管理员面板-设置-文档-语义向量模型”部分填入硅基流动的API&Key信息,在语义向量模型中填入“BAAI/bge-m3”,发现无法正常工作。
即时是在关闭混合搜索的情况下,我的GPT-4o模型依然无法读取文档内容。
对了,将向量模型引擎设置为“默认”,就都是一切正常的。
实在是很苦恼orz
80 个赞
我有试着这样子转过(密钥也有填写),同时把管理员面板那里的向量模型API变成NewAPI的配置信息,但还是不能让GPT读取文档信息。
6 个赞
我怀疑是硅基流动这个向量模型的 API 不是 OpenAI 格式
不对,转了咋还不行)
但说真的,你就算用OpenAI的text-embedding-3-large也花不了几毛钱
5 个赞
那佬友还有推荐的Open WebUI可用的语义向量模型吗?
5 个赞
就 text-embedding-3-large
,又好又快又便宜
9 个赞
bbb
9
用 OpenAI 的语义向量模型吧
text-embedding-3-small
8 个赞
读论文这些比较多的话,开销也不会很大是吗?没有研究过它的价格
9 个赞
非常非常非常便宜,你不是大公司装进超大的知识库,基本上都不可能花超过几毛钱
7 个赞
bbb
14
中转站一般都有
是学生的话也可以去白嫖 azure
7 个赞