我宣布，月之暗面是新的源神！他们把 RL 训练用的 agent 集群开源了！

开发调优
, , , ,
1

他们不仅将以往开源厂会开源的帮助大家更快、更好、更省成本地推理他们模型的代码开源了 GitHub - MoonshotAI/FlashKDA: FlashKDA: high-performance Kimi Delta Attention kernels · GitHub

也将一个通用的 MoE 优化方法开源了 GitHub - MoonshotAI/MoonEP: MoonEP: A Perfectly Balanced Expert Parallelism Library via Dynamic Redundant Experts · GitHub

而且将他们用来做 RL 训练的 Agent 集群也给开源了！

相信自己写过 agent 的佬友们已经对这个东西好奇很久了。它不单单是现在的大模型公司们训练效率的秘方，而且是提供 agent 云服务、企业私有化部署 agent 集群的必要基础设施。

由清华 kvcache 团队合作研发，之前大火的 KTransformers 低显存单卡运行千亿参数模型也是他们的作品。

《当LLM学会后，我们开源了背后的基础设施》

41 个赞
2

不止，他们还开源了自己的研究报告。

9 个赞
3

梁子得努力了，v4正式版现在都还没端上来

9 个赞
4

优秀，促进行业全面升级，做强做大 :+1:

2 个赞
5

不懂就问 agent 集群 是什么东西

7

image
image754×106 12.5 KB

可以这么理解嘛

3 个赞
8

agent集群都开源了,这不就是深度研究还有各种小电脑用的东西,之前公司还让整这玩意,还以为纯docker

1 个赞
9

是说最近美国慌得不行，股票连连跌

10

好像还有个大活，国产光刻机也成功投产了

4 个赞
12

这才是真正的源神，梁白开什么时候发力啊

1 个赞