DeepSeek 如何本地部署？最详细清单来啦

[jwdstef (jwd)]

DeepSeek 本地部署配置清单（全网最详细）

DeepSeek火了以后，其蒸馏版本也出了好多，公司让调研和本地部署，完全不知道如何下手？部署哪个参数量的？如何判断，需要多少多少GPU资源，是否支持量化，准确性怎么样？ 接下来这篇文章将给你答案，快拿去用吧。

参数量与适用场景

硬件配置与量化技术支持

性能指标与适用人群

更多AI干货，大家可以关注我的微信公众号：AI创战纪

[6512345 (65)]

如果需求只是能“跑的动”的话能低很多吧（

[wwow (樱悦)]

感谢科普

[HuZ]

感谢分享

[lma_Chen (神护延)]

能本地部署32b的都算小土豪了

[kzhsw]

那么就cpu inference，大搞需要1T内存的服务器

[yyy2024]

7B 8B都一样，我推荐搞7B，基于QWEN2.5的

[meng_hao_hao (孟浩浩)]

感谢分享，前天弄了1.5B 在核显笔记本跑
还没看性能咋样呢

[Shadowroom]

感谢，今天整个32B的试试，显卡A6000有48G显存。应该可以

[runbrick]

·佬友这篇文章含金量超标

[ZOG]

有用的知识增加了

[ddonano (Qaz)]

4080 12g + 32G mem 可以跑14b吗

[dogdogaaa (BigDream)]

Mark一下

[youto (youtobe)]

感谢佬友分享

[Qiudaoyu]

感谢分享

[sophon (智子)]

所以普通个人用户也就适合部署 7B。绝大多数场景不如直接用官方或者调用 api。

[devinfan]

这个文章干货满满啊

[r11 (2)]

自己部署个8b都费劲

[jwdstef (jwd)]

感谢肯定

[jwdstef (jwd)]

我们公司的产品就用的32B