请教一下规范大模型输出格式的prompt

最近想做个agent,用的qwen72b,但是模型输出很难规范,强调用json,并给出实例,他还是难以按照要求的格式回答,不知大家有什么好方法吗?

3 Likes

是哪种格式的json??
我觉得你可以自己再套一层api,手动把返回结果变成json再给agent

楼主应该是要把输出的结果格式化成json吧?比如模型输出「我是一只猪」,楼主希望输出 {"result": "pig"} 之类的?我猜的。

的确是个好思路

还是小模型 json 能力差,这算是 3.5 都能做得很好的任务了

在prompt结尾加一句这个应该就可以了Response only with JSON in a format where we can jsonify in python and feed directly into cy.add(data).
Do not include the markdown triple quotes above and below the JSON, jump straight into it with a curly bracket.