模型训练验证拖了很久终于来了：https://huggingface.co/winninghealth/WiNGPT-Babel-2，移动设备部署可以使用 AWQ 量化版（WiNGPT-Babel-2-AWQ），延迟更低并发更高。
如果你不知道 WiNGPT-Babel-2 是什么可以看：
Babel2终于来了！！！
1 个赞
终于更新了
前一阵子比较忙，不过也因此积累了不少高质量数据（18W），目前已经扩展到55种语言，多语言的测试还在进行中。
5 个赞
模型是你自己训练的？
3 个赞
厉害的啊
好像是基於 Googla Gemma 2 的預訓練版
太强了膜拜佬，请问这个主要是轻量级对吗，学术之类 的 场景是不是还是带联网的Gemini这类比较好呀
是的，目前翻译基座模型最合适的选择。
是的，为了可以日常作为各种翻译工具/产品的背后的翻译引擎。当然，能力不只这些，示例可以看下项目说明。
有测试的api吗佬 
项目说明最后有邮箱，可以申请测试API_KEY。
1 个赞
初步感觉，比起 WiNGPT-Bebel，指令遵守能力下降了 
有例子吗？
不好意思，已经删了 
让它翻译，它会根据已知知识先说明一下，不是简简单单的做翻译
没关系，可以多试试，为了适配沉浸式翻译这次特意调整了系统提示词，在FLORES-200上提升很大。
先继续用着 WiNGPT-Babel 
目前部署 有像babel 1提供的量化后的gguf版本的么 佬
可以先用AWQ 4bit量化的，比1还要快。gguf后面有时间再加，这次模型的template是自定义的，不知道你们用的是什么工具，能不能加载。
gguf量化版的已经上传：winninghealth/WiNGPT-Babel-2-GGUF · Hugging Face