【讨论】个人玩AI性价比最高的显卡

讨论一个问题,大家觉得个人训练、部署、play大模型(AI),性价比最高的显卡有哪些?

2080TI 改显存

改显存?改到24G?是直接换显存颗粒吗?

是的,基本自己玩的话够了

改显存之后驱动怎么弄?

散热、供电、驱动兼容性这些还需要再解决吗?还是说改完就可以直接能用了?

B 站上很多测评。你可以搜一下看看

人工智能快问快答

只是大模型且项目不强依赖cuda且不太介意训练耗时,可尝试使用Apple M2及以上芯片搭配大内存使用,加入mps的怀抱 :face_in_clouds: 毕竟2080Ti改显存也才22g,最多只能跑量化为4bits的Yi-34B,还容易爆显存。如果需要跑普通的CNN且要做一些魔幻操作,例如用Hook拿特征图,我只在cuda上面成功过,所以2080 Ti也许更适合。

1 Like

刚买了 4070s

佬,我需要换台笔记本,平时的话会写写代码开开虚拟机用用ps,有什么机型推荐嘛