有没有办法让gpt输出更长内容?

有没有办法让gpt输出更长内容?
我一个3000字的文本让他给我归纳整理,貌似运行的还不错,可以输出1000左右字符,重点和主题大多数都铺捉到了, 但是一个3w字的文本让他归纳整理提取重点什么的,他也是输出这么多,遗漏了很多内容,没有限制输出的token用的api调用的.在提示词里面让他不要遗漏任何内容完全没用,按说128k的上下文,区区3w的输入文本应该没问题啊

2 Likes

单次输出有限制的吧,你是api还是官网
你可以试着让他分几次说完

让它先列纲要,每个部分问一次。

上下文 = 输入,Output 是另外算的价格也跟上下文不一样,输出一般只有 4096~8192,4o-mini 有 16K。

要输出长文你一直发 Continue. 就行。

5 Likes

上面是官网的 ChatGPT 网页端的描述,虽然没直接写网页端输入和输出 token 分别是多少,但是网页端不会超过 api 的限制。 api 限制如下:

4 Likes

卧槽,o1 这是把思考链按 Output 计费了

是的,所以 o1 api 会很贵

可以用我们的o1试试,免费的

用的openai的api调用的,不是网页端的,比如我要对一个文本进行会议内容整理,如果内容就几千字还好,但是如果是3W字的内容,他就不行了,只输出1000多个字,丢失了很多内容和关键点, 但我用豆包手机端给它4W多字的内容让他整理能出很多字,基本也没什么缺失

NextChat 设置里有个上下文压缩(设置页最下面),超过这个长度会被截断(或压成摘要?),其他客户端的话不知道。

不是用的客户端,直接python调用的api

那就是老生常谈的 OpenAI 降智了,纯就是降智后模型能力不行而已。

此话题已在最后回复的 30 天后被自动关闭。不再允许新回复。