4060ti 8G显存 32内存 能跑 R1 8B吗

4060ti 8G显存 32内存 能跑 8B吗

2 个赞

可以跑。

2 个赞

是不是最大就8B了

1 个赞

本地跑这些低成本的模型感觉作用不是很大呀

1 个赞

就是玩玩

:clown_face:很轻松~~就是不太智能

1 个赞

14b也行,速度略微降一些

1 个赞

14b也可以试试

1 个赞

只要模型大小不超过显存都毫无压力

2 个赞

可以用70b 何必自己搭建(如果只是学习玩玩另说)

1 个赞

使用LM studio 可以看适合自己电脑的模型,然后本地部署

1 个赞

我下的就是 LM

你到这里右侧就看到能不能用某个模型了

1 个赞


用上8B了速度还是挺快的

1 个赞

可以,我的笔记本电脑都能跑起来。

1 个赞

8G我跑过14B

1 个赞

我的m2 pro都能跑14b,就是慢了点。

1 个赞

借楼问一句, 显存12G跑14B咋样呢?

1 个赞

很羡慕各位的显卡呀

1 个赞

1060都能跑,更何况4060Ti

1 个赞