佬们 现在哪个本地模型好丸?配置见图

比较简陋的环境,凑出48GB了,之前玩过qwen2:7b和gemma2:27b。

1 个赞

这配置真的牛

2 个赞

佬友说笑了…我担心跑不起70b来,正在下载中

1 个赞

跑不起来,模型太大了

1 个赞

拜谢zhiyang佬…给大佬端茶

大佬,那48GB可以跑qwen2:54b 4bit量化吗

厉害啊

:clown_face:48G,不用来画图呀

From #develop:ai to 资源荟萃