今天闲得没事在本地跑 Qwen, 突发奇想让 Qwen 做糖果题,答案是…
29
然后看了眼思维链

结果发现 Qwen 明确的注意到了可以依靠手感,之后又找了找
29 这个答案的原因是 AI 认为能靠手感分辨形状但是不代表能按形状挑选 (也就是摸到了就必须拿起来不能换)
如果这么理解这个问题的话确实答案就是 29, 而且这么理解也没问题 (因为题目要求了 “最坏情况”)
修改了问题之后, Qwen 3.6 27b fp16 的答案就是 21 了
今天闲得没事在本地跑 Qwen, 突发奇想让 Qwen 做糖果题,答案是…
29
然后看了眼思维链

结果发现 Qwen 明确的注意到了可以依靠手感,之后又找了找
29 这个答案的原因是 AI 认为能靠手感分辨形状但是不代表能按形状挑选 (也就是摸到了就必须拿起来不能换)
如果这么理解这个问题的话确实答案就是 29, 而且这么理解也没问题 (因为题目要求了 “最坏情况”)
修改了问题之后, Qwen 3.6 27b fp16 的答案就是 21 了
AI认为是拿到手里才能分辨手感确定形状,而不是在抓取之前就依靠手感进行区分是不是这样理解的?如果是这样确实也没有问题了,获得一个糖果再确定形状和确定形状再获得糖果是有歧义的。那糖果题可能要再加入一下限制了(如果过于精确的表述是不是会导致无法区分差异
)
很早之前好像就有人说过糖果问题单纯的是题目有歧义。但是大家更多只是“把题目交给AI,看答案对不对得上”。而不会去看,ai到底是不会做?还是题目本身有歧义?
之前也提过类似的想法,糖果题 可能测试的更接近世界知识和对模糊Prompt的理解,而非“智力”。
改题就没意义了,本来就是测的模糊语义下是否能做出正确的推理,把模糊语义消掉了能答对也没有测试的意义了
但是在当前的情况下两个答案都是对的…