暂时闲置的mac mini M4丐中丐版能玩什么ai

如题,本人跟风入的macmini丐版闲置了,当下除了:lobster:和:horse_face: 是否有更推荐的ai玩具呢?

我个人比较希望配置/部署一些可用的ai服务,能做一些基础的翻译/文本工作也可~

感谢各位佬友推荐~

3 个赞

gemma 26b a4b
又快又好

丐版跑什么26b 16g内存就 能跑?

不是纯的26b,是混合专家模型~~


好像不行 :enraged_face:

1 个赞

你试试hy的machine translate的模型。
7b的可以部署量化的,或者直接部署小参数量的。
跑翻译还是不错的

2 个赞

之前试过,偏慢,适合离线任务,不太适合在线的
但翻译精度又感觉不够了

q3量化啊,再缩缩,绝对能跑,你信我,不浪费你你流量

1 个赞

lmstudio没现成的了,懒得折腾了
哈哈,我也是随便玩玩

可以跑yolo不是,或者asr/tts,这种小模型,通用模型有点困难 :rofl:

1 个赞

每次看到你,都想起熟练掌握一门非母语,莫名其妙的记忆锚点 :rofl:

1 个赞