公司给配的工作站,佬们帮忙看看可以本地部署多大的模型

deepseek-671B ktransformers 似乎也可以 :distorted_face:

主要现在内存价格有点高,要不然佬还能加一点

好的,谢谢佬

好的好的

好的,我去看看

最好赶紧下模型,不然这周可能都下不完 :distorted_face:,硬盘最少得有900g空间,要速度的话下32b模型应该是最快,不过效果嘛 :tieba_087:

哈哈哈哈哈,好的,硬盘有8T,容量够了

纯显卡内存最快,溢出到cpu内存速度可能直接骨折

好久没摸过服务器物理机了!

但小模型效果很差的 :tieba_087:

佬,你这一套一共多少钱?

不知道啊,申请上去公司统一采购的,也不是我选的配置