用huggingface部署Librechat,可上传pdf,图片等文件,ChatGPT网页服务

太及时了,之前找遍谷歌没找到怎么部署

我是在unraid部署的没有rag_api,都想开个虚拟机重新部署了….

感谢,晚些试试,不明白的再交流

1 个赞

这个是一定要自己去获取的,下面这个huggingface部署教程第一步就是获取monogodb的字符串
https://www.librechat.ai/docs/remote/huggingface
https://www.librechat.ai/docs/configuration/mongodb/mongodb_atlas

2 个赞

大佬能再搞个Docker的RAG API配置指引么?
我在SealOS和本地Portainer上搞破了头它还是说,
warn: RAG API is either not running or not reachable at URL:PORT, you may experience errors with file uploads.
环境变量配置文件啥的都改了N遍了就是死活调不通,官方文档太依托了。

1 个赞

把RAG_API_URL=http://localhost:8000或者http://127.0.0.1:8000试试,不行的话就跟我一样另外部署rag_api,因为我huggingface也提示warn: RAG API is either not running or not reachable at URL:PORT, you may experience errors with file uploads.我才另外部署rag_api的。从下面这里开始,也是跟huggingface一样在环境变量里添加RAG_API_URL,地址就是你另外在 koyeb部署的地址

1 个赞

可以了,谢谢佬 :star_struck:

1 个赞

厉害厉害

1 个赞

有时间部署一个

1 个赞

新手怎么弄啊 这个完全看不明白,有没有喂饭版详细教程

感觉不如open webui

1 个赞

简单的很,变量都不用,docker一拉就行,也能上传文件和图片

1 个赞

主要是librechat本来走在openwebui前面,但是自己搞那么乱,现在这么多替代方案,最新的openwebui已经把他的那点东西全部搞定了,谁还用他,

1 个赞

mark一哈

koyeb上部署时一直报错:
error received from server in SCRAM exchange: Wrong password
看这意思是连postgres密码错误,但是我再datagrip上同样的配置就连上了,一脸懵逼 :sweat_smile:有佬遇到过这个问题嘛

之前在huggingface上遇到过,变量填错了也会这样,你再对比一下环境变量,s8可以重置密码,


danny-avila/rag_api: ID-based RAG FastAPI: Integration with Langchain and PostgreSQL/pgvector (github.com)

1 个赞

koyeb填的环境变量JWT_SECRET是supabase的还是libre的?

是当时部署libre的

1 个赞

谢谢佬,好使了,感谢分享。
犯了低级错误,密码的参数POSTGRES_PASSWORD粘成了POSTGRES_PASSWOR,少个字母D :joy:
有同样问题的佬友仔细检查下key和value。

1 个赞


我配置了那几个配置,但是好像没有生效
RAG_API_URL=http://host.docker.internal:8000
RAG_OPENAI_BASEURL=https://api.*****.vip/v1
RAG_OPENAI_API_KEY=sk-xxxxxxxxxxxxxxxxxxx
PDF_EXTRACT_IMAGES=true
EMBEDDINGS_MODEL=text-embedding-3-large
我是直接写在.env的结尾的
可有大佬回我一句?

1 个赞

没配EMBEDDINGS_PROVIDER=openai,应该是这个原因

1 个赞

我试试

1 个赞