有没有办法让gpt输出更长内容?
我一个3000字的文本让他给我归纳整理,貌似运行的还不错,可以输出1000左右字符,重点和主题大多数都铺捉到了, 但是一个3w字的文本让他归纳整理提取重点什么的,他也是输出这么多,遗漏了很多内容,没有限制输出的token用的api调用的.在提示词里面让他不要遗漏任何内容完全没用,按说128k的上下文,区区3w的输入文本应该没问题啊
2 Likes
单次输出有限制的吧,你是api还是官网
你可以试着让他分几次说完
让它先列纲要,每个部分问一次。
上下文 = 输入,Output 是另外算的价格也跟上下文不一样,输出一般只有 4096~8192,4o-mini 有 16K。
要输出长文你一直发 Continue. 就行。
5 Likes
卧槽,o1 这是把思考链按 Output 计费了
是的,所以 o1 api 会很贵
可以用我们的o1试试,免费的
用的openai的api调用的,不是网页端的,比如我要对一个文本进行会议内容整理,如果内容就几千字还好,但是如果是3W字的内容,他就不行了,只输出1000多个字,丢失了很多内容和关键点, 但我用豆包手机端给它4W多字的内容让他整理能出很多字,基本也没什么缺失
NextChat 设置里有个上下文压缩(设置页最下面),超过这个长度会被截断(或压成摘要?),其他客户端的话不知道。
不是用的客户端,直接python调用的api
那就是老生常谈的 OpenAI 降智了,纯就是降智后模型能力不行而已。
此话题已在最后回复的 30 天后被自动关闭。不再允许新回复。