有没有玩DGX本地部署的佬聊聊天都用什么模型

ornith1.5 35B-A3B 和Qwen 3.8 27B 哪个当主力模型,还是说上两台直接部署D4flash,我单机也跟部署了D4flash不过只有7-8token/s 难搞 :sweat_smile:

DGX 内存带宽比较低吧,算力强,但是内存带宽好笑不如mac studio

主打一个双机起买,单机流口水 :clown_face: 好像玩这个都是玩集群的mac太贵了256统一内存能买差不多3台dgx

我也好奇,为啥老黄给他配一个256bit的,怎么也配个512bit,内存带宽到1T,更适合。 只能说刀法精湛。

流畅只有这个,能有50-60左右,其他的就别想了。

ornith1.5 35B-A3B 好像没有Qwen3.8厉害 不过今晚要出3.9,3.9是moe模型

小模型里面,Qwen是天,其他小模型摸不到的天。能与闭源Opus-4.6 MAX打的有来有回的小模型。

ds flash 到处都是免费用,搞minimax h3 呀

那就等今晚Qwen出来看看效果了估计明天就有大佬发跑分了

没研究视频都是乱琢磨乱玩一通哈哈哈

哪裏來的消息?假的吧?最近也沒有聽説啊。

Qwen3.8-Flash-Next


今晚就发布了 还是moe架构

那可太好了。我就喜歡MOE架構的。

我就説不對吧。不過還是很期待的。

哈哈哈我也期待等大佬们出无审核版本就立刻部署要是效果好就部署第二台dgx了

不用期待了。360.02GB。乖乖的使用API吧。

300B那个是GLM5.3-flash把 3.9好像是180B 量化一下就能玩了

精准刀法 这就是老黄 因为dgx上面还有