分享一个目前个人觉得最好用的自用AI站点解决方案

下面介绍的主要是无服务器部署方式,有服务器的佬使用Docker部署就可以了

API整合:One API/New API

部署方式:koyeb
数据库:Aiven

教程:[小白的教程]无需服务器一键部署OneAPI? | OneAPI 部署使用指南。
如果要部署New API,将docker镜像改为calciumion/new-api:latest就可以了

前端站点:Open WebUI

Open WebUI 的界面和OpenAI的很像,适合多模型对比,也可以自动获取模型列表,还有多账户支持,可以上传文件,调用Dall·E,联网搜索

部署方式:HuggingFace

教程:抱脸部署OpenWebUI教程
保存数据更新:Hugging Face 部署 OpenWebUI 保留数据更新/数据库

详细配置可以参看 https://openwebui.com

防休眠用这个:通过GitHub Workflow实现网站防休眠

丰富你的API渠道

论坛中有很多佬都在分享公益的API站点,可以去找找看

很多平台都可以Chat2API,很多免费平台的额度也足够自用,可以到论坛中搜索
可以
通过这个实现加强版的OpenAI Chat2API: Chat2API 现已支持多账号负载均衡和通过 Refresh Token 请求

23 个赞

感谢分享

2 个赞

有空了试试,多谢分享~

2 个赞

多谢多谢

2 个赞

感谢分享

2 个赞

顶一下

1 个赞

顶!

open webui好用,librechat 也不错。

1 个赞

感谢分享

1 个赞

顶你

1 个赞

点赞

1 个赞

感谢分享

1 个赞

感谢分享

1 个赞

open webui用不惯,还是喜欢 new.oaifree.com

1 个赞

感谢分享

1 个赞

感谢分享

1 个赞

唯一的问题就是,open UI太重了,非olla的镜像都需要2g大,对比next这种,简直离大谱

mark一下,给公司搭建内部用的时候搞一下。 :face_with_spiral_eyes:

1 个赞

这么离谱啊:face_with_raised_eyebrow:
之前都是在hf上部署的 还真没注意过

感谢分享。

1 个赞