其实可以在服务器里用docker部署,它会自动给弄好的,最后只需要在.env里添加一下RAG的配置就可以了。不过服务器大概需要1G内存
RAG_API_URL=http://host.docker.internal:8000
RAG_OPENAI_BASEURL=https://xxx.xxx.xxx/v1/
RAG_OPENAI_API_KEY=sk-xxxxxxxxxxxxxxxxxxx
EMBEDDINGS_MODEL=text-embedding-3-large
其实可以在服务器里用docker部署,它会自动给弄好的,最后只需要在.env里添加一下RAG的配置就可以了。不过服务器大概需要1G内存
RAG_API_URL=http://host.docker.internal:8000
RAG_OPENAI_BASEURL=https://xxx.xxx.xxx/v1/
RAG_OPENAI_API_KEY=sk-xxxxxxxxxxxxxxxxxxx
EMBEDDINGS_MODEL=text-embedding-3-large