求一套deepseek R1 671B 本地部署服务器硬件方案

开发调优
,
1

请问有没有佬可以推荐一套能流畅运行671b的硬件方案

2

腾讯前几天出了个CPU部署的hhh
【转载】不到 4 万元的 DeepSeek-R1-671B-Q8 部署方案

2 个赞
3 
NF5688M7 (671B) 
CPU: Intel Xeon Platinum 8480+(56C,350W,2.0GHz) *2
内存: 64GB DDR5-4800MHz RDIMM*32
硬盘: 960G SSD*2、3.84T SSD*8
RAID: PM8204-2G*1
电源: 2700W*4
网卡: 双口万兆网卡(含模块)*1
显卡: Nvidia_HGX-H20-8GPU_1128G
服务: 三年5×10×NBD标准维保服务
2 个赞
4

貌似mac studio也可以

5

image
image770×746 32.9 KB

满血的r1 应该需要200-400万人民币

6

image
image559×514 19.3 KB

这个不错

7

公司在跟硬件厂商咨询方案，硬件配置报价都两百个w~老板又菜又爱玩

8

这种问题我一般都是先问有没有并发需求

kt和chitu都折腾过了，站里留了帖，可以搜一下参考

9

看看这个工具

10

企业级应用下，得要组exo才可以，目前Mac组exo差就差在带宽上。