本地跑一个125B的q4_k_xl量化模型,大概63tokens/秒,这比之前的Qwen3.8-27B强太多了。


mac 可以跑吗?我有台mac一直没有用。
提示词是哪个 我跑出来的没这个好看 ![]()
牛逼,佬的硬件是什么,内存多大的啊,我是 32G内存,显存 16G,想升级内存跑跑 qwen 3.8 flash next。
“生成一个html,内容是鹈鹕骑摩托车的2D的SVG动画”
“生成一个html,内容是鹈鹕动感单车锻炼的2D的SVG动画”
真不錯,我的 M2 Ultra 128g 跑 qwen 3.8 flash next q4 也就是 50 TPS 左右而已。
m1max 64g 能跑起来吗 ![]()