请教一下佬友,关于配置open webui语义向量模型的问题

我配置了语义向量模型,new api也能收到embeddings的请求,但是AI就是不能理解文档



但是我把语义向量模型切回默认模型:sentence-transformers/all-MiniLM-L6-v2
AI又能正常理解文档了


我自己在本地的请求api是能正常返回的:

自己捣鼓几个小时了,还是解决不了,所以才来请教佬友们

4 个赞

我测试了一下,遇到了与你一样的问题,在更换模型的语义向量模型时,就找不到红框部分的引用了


2 个赞

同样的问题
又换回lobechat了

2 个赞

可以啊,可能是new-api的问题


3 个赞

感谢佬的回复,我还在努力捣鼓中

1 个赞

感谢佬的回复,我之前用的也是lobechat,但是感觉lobechat有时候会莫名其妙卡顿

1 个赞

感谢佬的回复
我已经测试好几个中转了,都是一样的问题,不知道有没有可能是模型的问题呢?

会不会是embedding模型没回复 :thinking:

我在本地调用是有回复的

话说这个默认模型跟用openai的性能比怎么样?

默认模型在短文本上表现不错,但是字数多了,可能会有幻觉,不过响应速度还是不错的,我上传了一个7000多字的文档,反应挺快的。

我试了下上传文档后处理半天。。但是好像是可以正常读取文档。我也是newapi,用的Claude35

佬,你用的是什么模型啊?

就是你这个啊 text-embedding-3-small

佬友,我现在解决了,我把镜像和数据库全删干净,重新部署,把 host 模式换成了 bridge 模式,然后就能用了,但是具体不知道是什么原理。

1 个赞

From 快问快答 to 开发调优

佬,可以阅读pdf吗,配置完后发现可以阅读txt,doc,但是阅读不了pdf

1 个赞

佬,我刚刚试了一下是能阅读PDF的。

2 个赞

刚刚测了一下,又可以读pdf了 :clown_face:,感谢佬:pray:

1 个赞

是纯图pdf吗