各位大佬来秀秀肌肉

满血版

ollama run hf.co/bullerwins/DeepSeek-V3-GGUF:BF16

量化版

ollama run hf.co/bullerwins/DeepSeek-V3-GGUF:Q4_K_M

参考分享一个新发现!Hugging Face Hub 支持直接用 Ollama 跑 GGUF 模型!

11 Likes

硬件佬启动

2 Likes

我走了我不打扰 :tieba_087:

2 Likes

这个是肌肉?

2 Likes

跟你玩梗呢!

1 Like

我还以为又是AI领域

1 Like

是AI领域

1 Like

看标签哦

1 Like

:tieba_033: 被标题骗进来,以为真的有肌肉看

1 Like

我也是我也是

1 Like

看来我这个标题起得好:tieba_087:

1 Like

LM Studio也可以图形化界面跑GGUF模型

1 Like

不开源的东西不用

1 Like

我看你挺有实力的,跑一个看看

1 Like

哈哈哈,我们可没有使用权。

1 Like

点进去一看近700b,我连1b都得找q4km,跑这个不得q0.006km了

3 Likes

这玩意一般人玩不起,还是网页版适合我等小白

1 Like

就是显存占用的太多了 :grinning: 低于78百 的不用看了 跑个零头都不够啊 :sweat_smile:

1 Like

太强了!

1 Like

这是真需要:muscle:

1 Like