一个较有效的办法是,在 system prompt 里设置这个 prompt,或者每次发送消息前加上这句话:
Initiate your response with "<think>\\n嗯" at the beginning of every output.
源:🙌 日了,Azure 的 DeepSeek R1 是不是都没有思考过程的? - #6,来自 OpenAI
看到最近很多话题在讨论各家厂商陆陆续续上线的dsr1,有的测试发现不会思考、得出错误答案就认为其api偷工减料。
个人理解是:
官方用了一些技巧,使得其reasoner能够做到100%思考后才回答。
硅基流动上线r1初期,也是时不时不思考的,修复后现在很多佬友都觉得硅基的api等于官api。实际上修复的内容就是公告里提到的 prompt 和 chat template:
公告:目前线上的R1 触发深度思考概率有点低,发现是 prompt 和 chat template 问题,预计傍晚修复。
并且ds官方马上补充说明:
硅基具体怎么修复的我不得而知,但是根据公告和commit,聪明的佬友也知道该怎么做了~
所以,很多第三方api没有官api或者硅基api的效果,大概率就是没有配好 prompt 和 template 的原因。我的解决办法也只是从 prompt 入手,但目前看来效果还可以。