哈喽大家好,我是 Zmh,Chat Nio 的作者。
之前在咱论坛上搓了点toy发过几个小帖,可能会有些人会认识我哈哈哈
今天我们给大家带来一个好消息:
在经过数余月的收购流程后,CoAI.Dev (原 Chat Nio) 即将焕新启程,同时我也将继续主导开发本项目,新产品即将在不久的未来推出,致力于打造下一代开源商用级 LLM 一站式解决方案!
新开源 Roadmap 计划同步 RAG、数字人、Payment、TTS & STT、API 网关、模型健康性监控,支持 Agent Workflow、Realtime、团队协作等前沿功能!
ps: 有兴趣欢迎前往我们的新 DC 社区,一起期待新版本的到来!
Discord: https://discord.gg/rpzNSmqaF2
Github: GitHub - coaidev/coai: 🚀 Next Generation AI One-Stop Internationalization Solution. 🚀 下一代 AI 一站式 B/C 端解决方案,支持 OpenAI,Midjourney,Claude,讯飞星火,Stable Diffusion,DALL·E,ChatGLM,通义千问,腾讯混元,360 智脑,百川 AI,火山方舟,新必应,Gemini,Moonshot 等模型,支持对话分享,自定义预设,云端同步,模型市场,支持弹性计费和订阅计划模式,支持图片解析,支持联网搜索,支持模型缓存,丰富美观的后台管理与仪表盘数据统计。
本人很少有在公域分享的习惯,之前也一直没有空出时间,顺便今天借着这个帖子 share 一下关于这个项目的经历吧:
大概是2023年初,我发起了这个项目。
回想起来,当年的我在之前各大赛事里拿过一点儿山东省、市级冠军,在泡机房打算法的时候打腻了,比如当时学了 Pascal (忘干净了),Assembly, C,Python,Arduino(好久没用了),Lua,哈哈。
当时是信息小组的人每天放学后留下来一节课电脑,几乎什么好玩的都搞,写过爬虫,逆向,大数据,前端,后端,其他的也就回忆不起来了。我记得七年级的时候当时还搓了一个原生tcp socket的im聊天室,去解决native tcp粘丢包,我记得当时还实现了大文件传输,真的很好玩。后面也逐渐培养起喜欢捣鼓开源工具的习惯
当时我在网上能接到几k的小项目单子了, 虽然现在回看很少,但是这确是我最快乐的时光,我在整个初中实现了零食自由,然后当时做了一些开源项目需要搭建服务器跑api之类的,当时我就接单子来维持我的项目,真就是“自费开源”了哈哈哈哈。
说回正题,这个项目是如何发起的呢?其实最最早的时候其实只是给朋友玩的,当时 GPT4要每个月20刀订阅,我当时有一定的收入来源,但是我的朋友们内时候没有收入来源。于是我开启了这个项目分享给我的朋友们一起使用,当时去学了很多新知识,包括什么openai api,怎么开虚拟卡之类的东西。
大概在暑假的时候,我的朋友拉来了更多的人,我的收入和捐赠来源已经不足以维持越来越高费用了。于是在决定后,我们从公益的全免费转到非盈利性,同时在建议下我们开源了代码,并希望与开源社区共建。当时我还写了包括联网搜索、文件上传等等创新功能,据我当时所知大概是第一个支持联网搜索的(?。我也搞了文件解析的一个新范式: blob-service, 开源的通用文件解析标准Restful接口, 支持 文本/PDF/PPT/EXCEL/DOC/音频等等解析,甚至当时 OpenAI 和 Anthropic 都不支持大多数我所支持的东西。
当时做开源项目的时候,基本上是和nextweb、lobechat发起同时期的项目。一个我觉得早期设计比较好的就是对话是存储在经过 Local First 优化后的 Mysql 的,比如当时 Next Web 当时的跨设备同步依赖 WebDav,当时 Lobe 的对话依赖 WebRTC,但是 chatnio 可以zero config&无感对话跨设备同步。
我当时没有做过任何的宣传手段,只是借助价格和功能用户拉用户, 逐步演化为盈利性质,做了类似于“商业版授权”的 branch, 今年的年初我们的团队扩增到 4 个人,打到了 100k+ MAU / ~20w¥ MRR 的战绩。
一个转折点是我们当时做了 API Key 中转,类似于 One API 的功能。我们在当时在算法上做了蛮大的提升,自研了渠道分配算法,包括优先级、权重、报错自动降级的分配。当时 one 好像还只是依靠外部 http 307 redirect 来降级,后来才改成的内置retry&downgrade。chatnio 打造成了一个 B+C 端的一站式解决方案,同时支持 C 端用户的商业 LLM 对话系统和 B(D) 端的 OpenAI API 中转。
我的朋友在v2上帮我发了个分享贴,顺便开源项目也小爆了一阵,增到了3k+ stars,后面因为要中考了,因此也无心宣传了。
蛮多的聊得来的朋友,对我帮助很大的人几乎都是当时认识的,也认识了很多 vc (比如真格,YC,奇绩,绿洲,蓝驰等等等等),一起会议 casual也锻炼了些我的交流能力,蛮不错的hhh。这段经历我有个朋友之前和他分享过,可以看看他的share:https://mp.weixin.qq.com/s/_FdV7PrkVBS-xEX6FOVDcA 。也就不再过多赘述。
总之,感谢大家一路的陪伴!