qwen3:0.6b模型小小的也很好用

最近在开发 InfoFlow:自动获取关注信息的浏览器扩展 这个项目

其中信息过滤模块支持使用 ai 进行过滤,我一开始是用本地 ollama 运行的 qwen3:0.6b 模型,这已经是体量很小并能有效过滤信息而且能够在我电脑上高速运行的模型了。

但还是会占用很多的内存,不知道是 ollama 的问题还是什么问题。于是我又想起来白嫖硅基流动了,也很快而且效果肯定比 qwen3:0.6b 要好,最主要的是不用占据我电脑的内存来运行了。

​​

这是对于 linux.do 首页过滤后剩下来的信息源

11 个赞

非常眼熟佬友,感谢分享!

1 个赞

这就对我非常眼熟了么,感谢

如果我没记错,佬友开发了个glm-4.5v的mcp吧,用来给cc用的 :face_with_peeking_eye:

1 个赞

是的 :grinning_face:

我还没有尝试过这个模型,感谢分享,我了解下

523 MB 内存占用不算大吧

所以说不知道啥毛病啊,运行一段时间后占用二三十G内存。

1 个赞

清一下 KV 缓存吧

1 个赞

感觉不如 qwen3:0.6b,我的第一次询问他没有正面回答我

qwen3-0.6b 不会是最受欢迎的小模型吧,一个月五百万下载量

1 个赞

6啊大佬

1 个赞

确实很好用啊,这么小的体量,智能程度也不错

对于基础的数据过滤和提取 小模型确实够用了

1 个赞

参数看似只差一点
实际上差了 2.2 倍,gemma 输很正常

1 个赞

小模型的提示词怎么写

1 个赞

老友牛啊!期待你的项目

1 个赞

我就正常写呀,跟对话一样要求他

小模型能完成什么任务呢 能想opus一样实现一套后端面板的ui吗

一般就是意图识别,数据清洗,数据提取之类的