Qwen3即将推出!!!有0.6B, 1.7B, 4B, 8B的稠密模型,30B-A3B和235B-A22B混合专家模型。支持开关思考模式

估计这周应该有了,山雨欲来风满楼 :rofl:

开源的小,估计Qwen3-plus max大很多。

2 个赞

对标的是gemma3,大了没意义

激活参数 3B

是啊,就算70B总参数量激活参数可能也不到10B,感觉很玩具

感觉有点不自信?还是在造势?

Qwen3-30B-A3B,应该是激活参数 3B,10 * 3B 的 MoE
还好,比之前消息大了,之前的消息是 Qwen3-15B-A2B :bili_017:

1 个赞

ollama什么时候上?

这都是开源的吧 有大参数的吗

qwen3的“滑动窗口”技术是第一次用吗?以前有没有大模型用过

到目前为止,没有 :bili_017:


刚刚在QQ群刷到,正准备转发呢。

太好拉!

估计不行哦,参数量太小了,8B已经验证过了,要作为智能助手很难很难。

参考gemma3,12b勉强,27b能用。

1 个赞

hf上已经有人把qwen3 0.6B放上去了:joy:这样真的好吗

很不怎么样,这种小参数的感觉都很容易陷入思考循环,glm-airx 和qwq-plus 都是这样

提前泄露了?

感谢分享

有一个235B-A22B 的大杯。

3 个赞

woc,那我改个标题

我去重磅!235B-A22B通义现在敢发,说明性能必不低于R1,开源届第二个震撼大模要来了!