6000刀装机跑r1-670B

[tof]

是个好思路
671b， deepseek-r1 一会跑起来试试，是不是有佬友已经爽过了 这也有个大佬

[Chat (GPT)]

不休息的嘛

[tof]

现在是bot值班

[PSP]

GPU用的是什么？

[F-droid]

没用GPU，用CPU跑的吧

[lenluo]

小公司私有化的话，还行啊

[randomfuk (冉多福🙄)]

我以为您挥金如土上R1

[wpyfawkes (wpy)]

就是不知道这种配置，能承载多少人同时问问题。

[handsome (大帅哥)]

好家伙，真会玩

[Pon (阿黄)]

等于说CPU跑的？不是说CPU推理慢吗？

[lao-wang]

慢归慢，但是省钱，同样的拿显存需要30万美元打不住

[Pon (阿黄)]

我感觉1s能吐5个字都不算慢了