请教|4c4g的服务器部署OpenWebUI适合几个人一起用

开发调优
11
  1. 文本提取、音频啥的，所有用本地模型的，全部换成 OpenAI 的 API
  2. 打开离线模式，环境变量 HF_HUB_OFFLINE=True，这个就不会加载向量模型到内存
  3. 把 WS 换到 Redis 去，默认是在内存里的 OpenWebUI 启用 WS 以使响应更流畅 - 开发调优 - LINUX DO
4 Likes