微软Windows11中发现国产开源大模型代码

RWKV官方发现最新版Windows 11系统的Office文件夹中有以rwkv命名的DLL文件,包含GPU、CPU版本。对这些二进制文件进行反编译检查,结果发现就是GitHub的RWKV.cpp项目的一种变体。

RWKV团队猜测,微软可能会将RWKV用于正在测试的本地Copilot、memory recall等功能。官方在推特/X中表示「我们将接受以现金或GPU 时间形式向我们的基金会捐款」。

量子位 (https://www.qbitai.com/2024/09/187684.html)|X (x.com)

1 Like

RWKV确实挺厉害的,国人开发,性能很高,智力也不低,走的和现在LLM主流用的transformer也不是一个路线,用的RNN实现的,所以速度更快且更省显存