领导要求在本地部署Deepseek,求显卡资源或一体机 。
部署32b,FB16,做本地知识库,使用人数200左右,并发预估10-20,央国企预算不超20w(不知够不够)。
佬可以关注一下新出的 Mac Studio, M3 Ultra 512G + 1TB,20W大概能买3台,671B 都够用
使用人数不能拿来衡量,要给个大概的并发量人数。
32B生产环境不好用
佬友,有A10 的资源吗
公司买Mac Studio, M3 Ultra 流程过不去。。。
我没有渠道
这玩意就是个鸡肋,单机提示词60token/s, 2000个提示词等半分钟
我们只做知识库,哪个版本好用呀?
r1肯定是满血好用呀
但u1s1,gemini think 0121的效果 比r1强很多
没那么多预算额
这个需要什么配置?有资料能发一下不
楼主应该是走央国企采购的,苹果不在采购目录里,他们买不了。
这个是谷歌的 你们肯定不让用 别想了
deepseek最少也得70b 70b以下就别想着用了,你会骂人的
是的,麻烦噢
现在不是有算力共享么,而且还是政府支持的那种
aotudl怎么样
超算中心吗?
国企嘛,找华为定制哇,想要自己搞,20做不下来,做出来的都是智障ai。想要流畅并发不降智,起步300
华为在联系中