支持文件上传的ai部署项目推荐

之前用lobechat,但是文件上传阅读经常出错,有没有类似的部署项目推荐,主要用于读取文件总结。

12 个赞

Added 快问快答

给你顶一下
我没怎么用过lobechat
不过如果是读取文件,是需要配置embedding模型的,佬配置了吗?
如果配置了,检查是不是被限制了并发

感觉是上面两个问题导致的

1 个赞

模型的api其实已经配了,但是有时候读取会报错,想找个简单的项目部署,lobechat感觉有点慢

3 个赞

确定一下,佬配的是哪个embedd模型?
我不确定佬是否理解了我的意思

比如:text-embedding-3-large

4 个赞

我最常用的是librechat

4 个赞

我是部署的dify,docker compose一键

2 个赞

就是这个 ,那我去看看librechat,这个速度快吗?阅读文件 :grinning:

1 个赞

有配置文件抄作业吗?

我不确定多久算快慢
文件第一次上传,有一个embedding的过程,需要一段时间(5s?)
之后就是正常聊天,没多少差距吧

1 个赞

试试chatnio

感觉很牛的样子

可以试试OpenWebUI
[超详细教学] 教你从零开始,入坑域名、云服务器并部署 New API + Open WebUI! - 资源荟萃 - LINUX DO

1 个赞

我用librechat,我使用第三方代理一直报错,debug显示baseurl为 baseURL: “https://api.openai.com/v1”,
但是我已经在.env环境文件中配置了OPENAI_ORGANIZATION=https://api.gptapi.us/v1


我是在这里配置的,可以正常使用

image

1 个赞

OPENAI_ORGANIZATION这个是配置openai的组织的

1 个赞

这个项目作者已经基本不更了,o1看样子是都不打算支持了,目前只有商业版和企业版在更新,建议还是不要用了。

1 个赞

那有什么推荐吗?

感觉openwebui部署就挺简单的,功能也很齐全。
librechat虽然不错,但是部署起来比较费事,之前用的时候添加新模型之类的也不方便。不知道现在怎么样了

1 个赞