异步，负载均衡的Fastapi搭建的ai服务器，只需要配置api url和key，像xxx/v1/chat/completions这种接口，还有key，模型，就可以启动服务器使用了，有个额度还剩15块钱左右的接口给大伙用了，项目地址：GitHub - lanendiencgr2002/local_ai_sever: 异步负载均衡高并发ai接口 自动化获取佬的接口需要运行项目中的 爬api.py，需要谷歌或者edge浏览器快捷方式，属性，目标，“C:\Program Files\Google\Chrome\Application\chrome.exe” --remote-debugging-port=9222，后面加上–remotexxx指定9222端口，然后登录linux.do再运行 爬api.py
这是很多佬的接口示例图
15 Likes
感谢大佬的分享
1 Like
感谢你的分享 。
佬这个中文定义太优雅了
其实new-api就支持负载均衡
感谢佬的分享
嘿嘿对，但是自己也可以定义多个api，再负载均衡一下，更健壮点儿
嘿嘿，英语不好，中文一眼看出来要干啥啥意思了
感谢大佬分享，学习学习
佬，我喜欢你的代码风格，见名之意
但是是加權隨機 運氣不好就會運氣不好
感谢你的分享 。
神仙级别的变量命名 
突然感觉中文变量名好像也没我想的那么难堪
本来不知道可以用中文变量的，以前在b站看到有人用中文变量的，然后自己用着上手了
1 Like
挺好的！