大模型“降智”，我自己使用时也偶尔有类似感觉，特别是有新模型出来，旧模型智商感觉会明显降低。
我的疑惑是：如果同一个大模型程序是固定的，那同样输入理论上应该经过差不多的计算过程。就算云端算力不够，也只是排队更久，而不是回答质量变差呀。
我想请教一下各位佬友：这种用户感受到的“降智”，那Opeanai到底是做了什么，导致智商降低了？
我觉得是调整内置的思考深度了。可能降低一点，就能释放出大量的算力。新模型刚出来，没人抢当然是满级，后面新模型要训练，就要把算力迁移过去。为了不影响使用，就削弱了
很多喵，减上下文、换量化、换小参数/蒸馏模型这类
降低最大生成长度（max_tokens）回答被截断，显得不完整
使用更激进的采样（提高 temperature）输出更随机、更容易胡说
切换到量化模型（FP16→INT8/INT4）精度损失，复杂推理容易出错
减少上下文窗口|长文档被截断，丢失关键信息
使用推测解码的廉价草稿模型草稿模型能力弱，修正次数多，累积误差
降低 Beam Search 宽度探索空间变小，错过更优答案
你有很多钱，是把钱花在新车上还是继续花在旧车上？
总结一下：新模型要训练，算力不够分，旧模型主动’装傻’给新模型让路。
这不就是职场老员工带新人的故事吗——自己摸鱼，让新人显得更努力