电脑配置(大模型初学)

刚刚学习ai方向 打算自己搞一个电脑配置 打算用4060ti 16g 显卡 但是其他配置现在还都在看 不知道选什么 有没有大佬推荐(4060 已经最便宜的16g显卡了) 预算8k 左右可以吗 显示器已经有了 :upside_down_face: :upside_down_face: :upside_down_face: :slightly_smiling_face:

可以

搞七捻三快问快答

建议上4090

随便建议一下: 电脑随便买一个就行, 真搞AI还得租GPU.
没必要本机配置搞的特别高

大显存,cuda核心数要多,但是你玩大模型的话,如上面老哥所说最好是租,本地电脑搞个卡能run就行了

借帖子问一下租gpu算力的话哪里比较好?

模型神卡,2080ti 22G

现在没活动啊,买个最便宜的万丽都要3300了
其他配置其实和普通电脑差距就不大了,主要就是差在显卡上
机箱就百来块的铁皮,电源还是心爱的低价之友玄武550 200块
板U136+铭瑄b760挑战者D5也才2000来块,觉得不给力可以升级板子迫击炮什么的或者上z板,换amd同级别也可以
内存上32还是64随你,d5生产力正常用差别不大,前者算6 700后者翻倍
散热300来块的水冷表现都还可以,觉得麻烦就看看倚天p60t什么的风冷
固态看你需求了,随便买个原厂牌子货就行
剩钱就投入我说的能升级的,或者换个买点风扇投入颜值都可以
其实还能16G卡这个预算还能玩极限的4070ti配置

说到这个,我之前配了一台没带显卡的服务器,最近搞科研想入手个显卡跑模型

但网上买总感觉都是矿卡,所以想问问各位佬友一般是从什么渠道买的显卡呢?

买高端卡就没人用来挖矿了,40804090应该矿都很少,也不是没有

1 个赞

z790板子+13代i5 kf或i7kf+致太1Tb(后期可上机械存放模型)+d5 内存条两根16GB*2(可以小超一下的)+水冷利民(不然压不住13代U,这里U可以小超一下)+ATX3标牌的电源(850W, 也可以750W,具体看你U和显卡功耗),看着弄就行,如果U垃圾调度不好,GPU也跑不满,所以这得注意。

当然你也看研究下Tesla系列显卡。至于你说跑LLM用4060 ti,没希望,7B的回复垃圾,微调16gb也够呛。不过可以玩玩SD之类的。因为我本地就是4060TI

本地单张显卡都只能用来学习测试吧,真要训练大模型个人PC其实都不太行

最便宜的大容量是
2080ti 22g 目前2500闲鱼
不过有技术可以搞一下3060串联还是什么可以整合显存(?)

推 mac mini M2 pro 32gb内存 战未来

大模型不适合本机跑需要显存太大,先学基本技术,后期租云显卡来用

有点贵呀 上不起 :sob:

初学的话 我打算本地先搞搞微调什么的 不过租也是一个办法,但是平时还能打打游戏麻 :roll_eyes:

From 快问快答 to 开发调优