自称实现了llm的真思考,有没有懂的佬分析一下?

刷抖音刷到的,不是很懂这一块,所以是真的吗?如果是的话,和传统的llm区别是什么?

4 Likes

言语略有营销号风味,不过得先看看模型,判断真假。

同参数量超越 qwen-1.5b 是什么很耀眼的成就么?而且没提是几代的 qwen。

看了下 README,链接失效,文风大模型微科幻风味胡诌。疑似是 qwen2.5-1.5b 微调。

2 Likes

昨天刷到他了,感觉像沉浸在自己的艺术里

2 Likes

citation写的自己的网站, 然后自己的网站还打不开, 多少有点抽象了吧.

Model Details的意思, 似乎是微调实现的.

Key Capabilities里面

  • Runtime Metacognition: Internal [Snapshot] cognitive monitoring during conversation

我感觉不会是自己构建了一些数据, 中间加了个类似的[SEP], 用这些数据拿来微调, 类似于:

大前提[SEP]推理1[SEP]推理2[SEP]结论

具体不清楚, 我瞎猜的, 感觉是草台班子 :joy:

这点参数量还用微调啊。调了也是菜鸡。

我看他自称在因果推理方面达到了gpt3的水平