Gemma3:27B的int4量化版效果不好

感谢下面大佬的提示,把温度调到0能显著的遏制Gemma3发癫 :rofl:

先叠甲,能以小模型达到大模型的能力非常棒,点赞。
但是不知道满血fp16版本有没有这个问题,至少量化int4版本,个人觉得是处于不可用状态的。

询问了一个简单的代码问题,这代码字母直接错乱了,还有莫名其妙的空格和转义字符


然后一个中文称谓问题,这表的拼音是什么鬼tieba_008

4 Likes

满血版偶尔有英文和俄文


一眼过去全是错误,绷不住了。有试过把温度调到0吗?

tieba_009太遗憾了
我的内网摸鱼大业又GG了

这量化版是真的是完全是胡乱生成的,真的醉了

参数量少,还是int4量化,效果肯定差呀

更别说google模型处理中文内容经常有这种乱码和俄文错误,gemini其实也会的

调到0确实好不少
这温度影响这么大的吗

温度高也不应该胡言乱语吧 :joy:

1 Like

暂时还有点拉跨

昨天试用了一下,的确有点儿失望。

那gemma3确实吹过头了,哈哈