4060ti 8G显存 32内存 能跑 8B吗
2 个赞
可以跑。
2 个赞
是不是最大就8B了
1 个赞
本地跑这些低成本的模型感觉作用不是很大呀
1 个赞
就是玩玩
很轻松~~就是不太智能
1 个赞
14b也行,速度略微降一些
1 个赞
14b也可以试试
1 个赞
只要模型大小不超过显存都毫无压力
2 个赞
可以用70b 何必自己搭建(如果只是学习玩玩另说)
1 个赞
使用LM studio 可以看适合自己电脑的模型,然后本地部署
1 个赞
我下的就是 LM
可以,我的笔记本电脑都能跑起来。
1 个赞
8G我跑过14B
1 个赞
我的m2 pro都能跑14b,就是慢了点。
1 个赞
借楼问一句, 显存12G跑14B咋样呢?
1 个赞
很羡慕各位的显卡呀
1 个赞
1060都能跑,更何况4060Ti
1 个赞