讨论一个问题,大家觉得个人训练、部署、play大模型(AI),性价比最高的显卡有哪些?
2080TI 改显存
改显存?改到24G?是直接换显存颗粒吗?
37 Likes
是的,基本自己玩的话够了
改显存之后驱动怎么弄?
散热、供电、驱动兼容性这些还需要再解决吗?还是说改完就可以直接能用了?
37 Likes
B 站上很多测评。你可以搜一下看看
只是大模型且项目不强依赖cuda且不太介意训练耗时,可尝试使用Apple M2及以上芯片搭配大内存使用,加入mps的怀抱 毕竟2080Ti改显存也才22g,最多只能跑量化为4bits的Yi-34B,还容易爆显存。如果需要跑普通的CNN且要做一些魔幻操作,例如用Hook拿特征图,我只在cuda上面成功过,所以2080 Ti也许更适合。
1 Like
刚买了 4070s
佬,我需要换台笔记本,平时的话会写写代码开开虚拟机用用ps,有什么机型推荐嘛
From #develop:qa to 开发调优