看了看 shell-api 青春版,发现真的是号商友好型渠道管理平台
我来分享几个个人认为雀食牛逼的地方:
渠道
-
去广告
-
伪造模型
-
重点来了:渠 道 负 优 化(点题,真的没想到还能这么玩
-
还有其他功能比如熔断、请求体转换、url修改、fc/tc指定——反正是要啥有啥
令牌
-
加广告——欸,你上游渠道广告哪来的?我这里来的!我解铃又系铃,怎么样?
-
限流器——速率控制精度比其他one-api高得多
日志
看起来应该能记录客户端特征、用户的prompt以及模型的completion
在系统设置中会提示,开启详细日志务必告知用户
计费
这玩意单独拎出来,毕竟搞钱是第一目的。下面这些是我感觉比较丰富的计费功能,真的是有很多,感觉是一个个需求提出来一个个功能往上加:
-
-
-
-
单独设置用户的倍率
-
余额有效期和账户间转账
-
支付方式
但是!最骚的来了,针对gpt-4o,可以选择使用的tiktoken库:
也不知道这是同时针对上游渠道和下游令牌的token计算,还是其他什么情况。
既然oai弄了个新词库出来,大伙该统一用就统一好了
还有其他各种各样的功能,我就走马观花了一下。
整体看下来我的感觉就是——一站式AI API分发平台,大伙都太会玩了!
佬友们自己可以体验体验,说不定也心动入手一个了呢(我可不是推销嗷
最后放个项目地址:GitHub - akl7777777/shell-api: OpenAI 接口管理 & 分发系统,支持 Azure、Anthropic Claude、Google PaLM 2、智谱 ChatGLM、百度文心一言、讯飞星火认知、阿里通义千问以及 360 智脑,可用于二次分发管理 key,仅单可执行文件,已打包好 Docker 镜像,一键部署,开箱即用. OpenAI key management & redistribution system, using a single API for all LLMs, and features an English UI. 体验地址下方↓