【提问】生产力大显存显卡推荐(最终推荐请看 https://linux.do/t/topic/277303)

上一个问题 提问,[考虑3080ti,是否要做等等党]买2080ti 22g还是4060ti 16g - 常规话题 / 人工智能 - LINUX DO

和京东三方店铺相爱相杀 【吃瓜/求助】京东第三方台式机店铺,售后纠纷 - 搞七捻三 - LINUX DO

一、完全不考游戏的需求,到底是A卡还是N卡(ROCm的下的A卡能使用coda,会不会有什么别的缺陷)

二、到底是游戏卡还是专业计算卡(考虑相差不大的硬件配置下的性价比问题)

三、中度使用需求,考虑后续使用可能升级问题能用(能使用nvlink)

1.考虑预算问题,显卡价格尽量不超过7000(可以超过,但是性价比或者别的高一点)
2.自己本想先来一台2080ti 22g用着,后面有需要在搞一个机子多上几张2080ti,3dmark跑分不过,故退了
3.现在看到3090ti,v100 32g(有倾向)

四、对应的电脑硬件升级需求

1.现在是i5 12400 加华硕的750m-k
2.志强系列的cpu加x99主板和前者性能区别有多大,会不会在软件方面遇到软件兼容性的问题?
3.能否给一个相关的配置建议,包括主板,机箱(能放超过6块以上的3.5寸硬盘)的选择。
4.
五、后续
1.【金山文档 | WPS云文档】 消费级 显存≥12GB 显卡横评 统计表(价格是去年夏天之前的价格)
https://kdocs.cn/l/caD4poapDnCe

10 个赞

说清楚你要干嘛,跑llm吗

人工智能快问快答

快问快答人工智能

是的,但不仅限于此,包括模型训练,deepface 换脸的模型

那肯定4080 4090了
买的越多,省的越多

1 个赞

帮顶~

模型训练是只有deepface的模型准备训练还是包括要微调llm,推理llm预计最高推理多大参数,微调llm预计用什么方法,这里的差异太大了

不考虑游戏需求只有n卡可选 那第二个问题 你的预算多少 是不是可以接受二手 如果预算不多可以考虑捡3090 如果预算足够个人建议4090 不是90d 是原版4090 4080显存可能不够用

是的,这个我明白,但是现在重点的是预算确实有限,更大的需求直接云端算力了,比如说想上3090,很多东西不够用的,现在仅仅想的是能微调就好,后面有能力再继续加装(持续进化)

好吧,发现了,我写的还是太笼统了

我感觉你属于对自己的需求还不太明了的情况,这样我建议你先搞张p40练手,等弄清楚了需要多大显存和性能之后再卖掉

那其实确实可以观察一下3090的价格 我个人是3090ti 目前我的ai应用还是很满足我个人的需求了 但是真正的深度使用 其实也就勉强足够 但是也可以先过渡嘛 预算不够是没有办法的 在预算不够的情况下我推荐思考算力和大显存的平衡 不能只考虑显存 但也不能抛弃显存

1 个赞

是的,所以我放弃2080ti来看30系了

听说苹果 m系列芯片也可以跑

这个两个月前我也考虑过,可是拼多多以及很多店铺价格竟然从2023年四五月分的 八九百七八百的价格涨到现在的一千六一千七。感觉离谱过头了。即便中间拿来让我过渡都害怕。大降价亏死。去年看的某些博主的测评感觉p40不咋地

听说过,没细了解过

确实,这个是哪个中的啊?我看deapface中的佬,他们搞模型训练的时候一张3090ti就搞定了,

这是微调llm的