如标题所言,这个档位决定的是思考上限,而不是下限。所以简单任务也不会产生多余无效思考内容。反而,手动设置把思考档位调低,反而会导致模型在处理复杂任务时流口水。
那为什么还要设置思考挡位这个东西。按照你的说法的话是完全冗余的了。默认max就可以。相反claude和codex反而还在增加思考挡位的数量
不让用户选择思考程度,直接智能路由好吧,对外宣称模型已经足够智能,不需要调整思考程度
思考太多,反而占太多时间了,而时间是宝贵的
智能路由还做不到导致的,只能让用户自己选择
不完全是,有时候简单的的任务 max 会过度思考,这样就既比不上低思考等级简洁,也有可能走偏了
很简单啊。因为模型本身有能力通过更长的思考来解决问题,但是这样既费时间又费金钱。可以通过档位直接设定预期的花费时间和金钱,这就和手动挡汽车一样,你得先在低档位把速度提起来,再换成高档。
开启MAX后,GPT表示我在大气层,这么简单的问题肯定有诈,猜到了用户的一千种意图
明显是不同档位消耗的不一样。哪怕同样的简单问题,不同档位消耗的token是不一样的
论据何在?
同样的问题你试一试都能发现是错的。 开高effort就是喜欢胡思乱想,乱翻一些无关的代码在那里研究
你就说他是不是在思考怎么解决这个问题吧?模型本身能力不行,你开再高的思考也没用。
不同意。体感开max以后,ai会觉得“我不给你整点活岂不是对不起你开的max”……
事实是开max就是会多思考,会思考有的没的。或者说会为你考虑更多吧。今天做了个后台,开max做的,做完没给我后台的登录密码,我就问他要,然后因为加密他也不知道,他就要给我创建一个admin2,但是我要root啊。然后我让他给我把密码改成xxxxx,这个时候我没换当档位,还是max,改了三分钟还没改成,显示通过安全的Argon什么什么重置流程,我不想等了,我就终止这次了,换到high 让他改,他直接写了个go代码改,改完就把文件删了。前后一分钟多
影响模型行为偏好,思考强度高了会更多考虑边界情况。(虽然很多时候是胡思乱想)
思考消耗和收益当然是有个甜点区间的
