佬友们,求Deepseek显卡资源或一体机资源

领导要求在本地部署Deepseek,求显卡资源或一体机 。

部署32b,FB16,做本地知识库,使用人数200左右,并发预估10-20,央国企预算不超20w(不知够不够)。


5 个赞

真不建议32b,幻觉严重
不过你们硬要部署用的话,搞几张A10,部署70b 20w应该够


2 个赞

佬可以关注一下新出的 Mac Studio, M3 Ultra 512G + 1TB,20W大概能买3台,671B 都够用

1 个赞

使用人数不能拿来衡量,要给个大概的并发量人数。

32B生产环境不好用

1 个赞

佬友,有A10 的资源吗

1 个赞

公司买Mac Studio, M3 Ultra 流程过不去。。。

我没有渠道

这玩意就是个鸡肋,单机提示词60token/s, 2000个提示词等半分钟

我们只做知识库,哪个版本好用呀?

r1肯定是满血好用呀
但u1s1,gemini think 0121的效果 比r1强很多

没那么多预算额

这个需要什么配置?有资料能发一下不

1 个赞

楼主应该是走央国企采购的,苹果不在采购目录里,他们买不了。

1 个赞

这个是谷歌的 你们肯定不让用 别想了

deepseek最少也得70b 70b以下就别想着用了,你会骂人的

是的,麻烦噢

现在不是有算力共享么,而且还是政府支持的那种

1 个赞

aotudl怎么样

超算中心吗?

1 个赞

国企嘛,找华为定制哇,想要自己搞,20做不下来,做出来的都是智障ai。想要流畅并发不降智,起步300

华为在联系中