目前服务器的cpu是Xeon Gold 5218,大概四块?总共64核。服务器只支持pcie 3.0,大概想跑7B或者14B的模型,后期需要构建本地知识库进行微调,请问各位佬友应该选什么显卡比较好?
1 个赞
老老实实买3090
目前服务器的cpu是Xeon Gold 5218,大概四块?总共64核。服务器只支持pcie 3.0,大概想跑7B或者14B的模型,后期需要构建本地知识库进行微调,请问各位佬友应该选什么显卡比较好?
老老实实买3090