之前用lobechat,但是文件上传阅读经常出错,有没有类似的部署项目推荐,主要用于读取文件总结。
12 个赞
Added 快问快答
给你顶一下
我没怎么用过lobechat
不过如果是读取文件,是需要配置embedding模型的,佬配置了吗?
如果配置了,检查是不是被限制了并发
感觉是上面两个问题导致的
1 个赞
模型的api其实已经配了,但是有时候读取会报错,想找个简单的项目部署,lobechat感觉有点慢
3 个赞
确定一下,佬配的是哪个embedd模型?
我不确定佬是否理解了我的意思
比如:text-embedding-3-large
4 个赞
我最常用的是librechat
4 个赞
我是部署的dify,docker compose一键
2 个赞
就是这个 ,那我去看看librechat,这个速度快吗?阅读文件
1 个赞
有配置文件抄作业吗?
我不确定多久算快慢
文件第一次上传,有一个embedding的过程,需要一段时间(5s?)
之后就是正常聊天,没多少差距吧
1 个赞
试试chatnio
感觉很牛的样子
1 个赞
我用librechat,我使用第三方代理一直报错,debug显示baseurl为 baseURL: “https://api.openai.com/v1”,
但是我已经在.env环境文件中配置了OPENAI_ORGANIZATION=https://api.gptapi.us/v1
1 个赞
OPENAI_ORGANIZATION这个是配置openai的组织的
1 个赞
这个项目作者已经基本不更了,o1看样子是都不打算支持了,目前只有商业版和企业版在更新,建议还是不要用了。
1 个赞
那有什么推荐吗?
感觉openwebui部署就挺简单的,功能也很齐全。
librechat虽然不错,但是部署起来比较费事,之前用的时候添加新模型之类的也不方便。不知道现在怎么样了
1 个赞