本地部署了个qwen3.8-27b用来干些啥呢

公司电脑是4090,闲着没事本地部署了一个qwen3.8-27b模型,速度还挺快,有38tokens/s,但是不知道用来干些啥,平时都用gpt。其他本地部署的佬友们,除了用来编程还用来干啥呢?佬友们有没有什么有趣的想法我来试试 :face_savoring_food:

2 个赞

一般都是做一些不想让外面的人知道的事情。。。 比如内部敏感数据的处理等等。。。

如果没有这个需求,其实模型能力完全不如外面随便一个大模型的API好。。。

2 个赞

这个模型能做的就多了,据说翻译能力特别强。

2 个赞

可以写点小黄文,然后发出来大家品鉴一下。~ :grinning_face: :joy:

2 个赞


这小模型能力确实挺强的,看着他一步步画出来哈哈哈

我的工位位置不太好,就在门口,人来来往往的,不适合干nsfw :joy:

1 个赞

用来耗电,增加国家电力消耗,用来发热,问全球变暖做贡献。为啥我的pro6k才跑60多,你这都跑差不多40了……模型目前确实如网上所说,存在长思考的问题,不知道在想什么,我又不会修

1 个赞

我是部署的是qwen3.8-27b-q4km

我今天爬一个文档,gpt5.6sol拒绝了,用qwen3.8 27b,花了84min解决的……

佬,这个是什么软件,截图看不太出来