实验室想再采购一台准系统 GPU 服务器,预算 2W 左右

我们是做计算生物学的实验室,最近准备再采购一台 GPU 服务器,有点迷糊,所以想来问问大家。

目前实验室已经有一台 GPU 服务器:

超微 SYS-4029GP-TRT2

  • CPU:Xeon Silver 4210
  • 内存:512G
  • GPU:4×3090 + NVLink,另外还有 4×4080 Super 32G 涡扇版
  • 固态:20T
  • 机械硬盘:40T

现在的问题是 3090 和 4080S 混插以后,4080S 老是掉线。所以我们想干脆再弄一台服务器,把现在的4080S、部分内存和硬盘放新机器中,希望最低成本解决这个问题。


目前大概有下面几个方案:

1、自己攒一台和现在一样的超微 SYS-4029GP-TRT2

淘宝/闲鱼找二手拆机件,机头 + CPU 自己组。粗略算了一下,大概 1W 左右。

问题就是基本没什么靠谱的质保和售后。真出什么问题估计是我来背锅负责了。


2、H3C R5300 G5 + Xeon Silver 4309Y

这是之前合作过几次的供应商给我们的方案。

4U 8卡服务器:H3C R5300 G5 + Intel Xeon Silver 4309Y

无内存硬盘,对方报价二手拆机 2.5W 左右,全新 3.5W。二手的只有三个月质保,后续有一些基础售后支持。

我一开始跟他说我们老服务器二手大概八千块,他就觉得对方报价二手咋还这么贵,而且觉得质保时间太短了,担心真的有问题,又得扯皮啥的。另外说不认识这个什么新华三厂商,只听过浪潮、DELL啥的。

另外这个CPU对方报价1600一颗,我们自己淘宝搜大概700,都是二手拆机件啊,不知道能不能这么算。

主要是我们自己不太懂企业服务器二手市场,导师也比较担心这里面的水。


3、愙墨 AS4208 8 卡服务器, 2.5W

京东上还找到一个叫 愙墨 AS4208 的,好像是国内集成商做的。

看介绍用的是 华硕 ESC8000 G4 机箱/平台,4U 8卡服务器。

报价大概 2.5W,写的三年质保。带基本的32G内存和500G的固态硬盘啥的。

但是我们对这个牌子/集成商完全不了解,不知道这种机器靠不靠谱,所谓的三年质保实际能做到什么程度也不清楚。


4、同一家集成商的全新 4 卡服务器

如果我们只考虑目前这 4 张 4080S,其实也不一定非要买 8 卡服务器。同一家还有全新的 4 卡服务器,1W 出头


5、全新 H3C R4900 G5

H3C R4900 G5,单机头 1.4W


所以现在比较纠结。

想请教一下熟悉服务器、AI 服务器或者实验室集群的佬们:

这种情况下大家会怎么选?

另外也想问几个比较小白的问题:

  1. 这些价格正常吗?还有没有其他方案?毕竟不是专业的思路可能存在局限性…
  2. 到底是混插的问题还是什么问题导致卡老是掉,体现在CUDA中只识别到7张卡,得重启交换一下卡的位置可能就恢复了,但是过了一段时间又掉线,发过去检测也没啥硬件问题?
  3. 售后服务一般要注意哪些地方?
  4. 这种国内集成商的 4U GPU 服务器靠谱吗?三年质保实际有没有意义?

我们自己毕竟不是专业搞服务器运维的,如果有哪里理解错了,也欢迎大家直接指出来。

我不太了解行情和攒机,这两万预算真能淘出这配置吗?怎么操作,怎么淘宝,请务必发后续给我学习下

4 张 4080 的卡,1w 出头? 我没有看错吧。

大佬,你是不是少打了一个 0 喔。2 万,准系统的 gpu 服务器?

没有呀,可能我的文字描述不太准确?

内存硬盘显卡这些硬件我们都有,我们现在只缺平台,来放这些卡,类似于2w买个带CPU的服务器机箱

愙墨体感上不太行,我们实验室采购服务器是我负责的,最开始谈好了供应商,但学校规定超过特定金额就需要走招投标流程,在招投标过程中突然冒出来一家叫深圳图灵的供应商低价拿到了标,提供的就是愙墨的服务器。

一是机器本身不知道是尺寸问题还是给的导轨问题,当时上架标准机柜总是宽一点塞不进去,最后卸掉两侧用来覆盖线材的金属片才勉强放进去

二是售后客服在有些问题上他们也解决不了,例如服务器本身的卡兼容性等等出过问题。当然也有可能我们插的扩展卡本身比较偏门导致的(

大概率是电源带不动或者散热不行吧,是不是一般在多卡满载的时候触发?可以先排查下。如果自己不太懂可以等掉卡的时候让 AI 排查,一般驱动会有错误日志。

谢谢!

确实在京东上搜索就是这家店提供的服务器价格最低,就比较担心会不会在某些地方偷工减料,毕竟差了将近一两万 :frowning:

那可能还是得放弃这种方案了,担心一坑坑个大的,不敢背锅啊

有预算的情况下还是尽量找一些大品牌,加上微信把需求报过去让他们出方案吧,我们后续的服务器是对接浪潮去买的,虽然中间学校流程卡了一阵,但是后续服务和机器上架体验都还不错。

我们猜测也是这样,但是一直不知道具体怎么解决。

以前买的3090比这个4080长一截,8卡插满之后间隔非常紧,涡扇版的4080风扇又在正面,侧面又没有进风口,一有负载就直接飙到80多度了,正常3090才70度不到。

现在先用钞能力解决一下下吧,以后可能会按照这种思路来解决,主要是懒,毕竟有售后支持,自己也就不想管这些,太麻烦啦。

:pleading_face:主要是不知道导师到底还剩多少经费,最开始查二手价格给他心理预期拉太低了,不敢花太多钱,还没转变过来观念,给他猛猛省钱,累的是自己。财小气细的后果。而且这个经销商报价属于是熟人坑一半,以后还有采购需求可能考虑换厂家来弄了,但希望未来几年不要有了= =我要提桶毕业跑路。

不要想着为实验室省钱,采购一定要走正规渠道,你们导师不差这点。否则一旦出现任何问题,你都是千古罪人。

省钱的生意不好做啊

:sob:

导处于穷富二象性,大多数时候穷,搞得我也从这方面出发考虑预算了。也不知道他的经费运转是怎么样的,没研究过这些。

4月份的时候采购的这些卡,当时对面报价
4090 48G涡扇版 29400,4090D 48G 涡扇版 2.6万, 4080s,1.2万。

我们想着可能用的人多,相同预算我们就买了4张4080s。

4、同一家集成商的全新 4 卡服务器

如果我们只考虑目前这 4 张 4080S,其实也不一定非要买 8 卡服务器。同一家还有全新的 4 卡服务器,1W 出头

这个就好了。售后也在,又能满足这 4 张 4080S,还不用花那么多钱

4月份 4080 1.2W 大钱都花了 干嘛在小钱上纠结

练习一下超微的代理上,拿一台准系统就行。报价 2W 应该有货。不过 cpu 不会太好。

应该是只要机箱主板和CPU吧,但是说老实话,这个要求两万还是略低了,买俩CPU就花完了

4080是pcie4.0 可以接华南金牌的主板cpu(定位国产性价比较高的家用平台厂商)
搜索关键字
H12D-16D【双路 带BMC】+AMD EPYC 7K62处理器*2+金钱豹SP3散热器*2H12D-16D【双路 带BMC】+AMD EPYC 7K62处理器*2+金钱豹SP3散热器*2

可以买双路版本的 7个pcie足够用了 京东淘宝官方店大概8046左右

电源随意买 其他随意买
感觉2w够的

没钱就攒够钱再看,这种采购一定要找本地的线下服务商,售后随叫随到的那种,否则就相当于给自己找了份不要工资的运维工作。