ai-pro workers 流式 非流 复活!!!支持上下文

header 里加 origin 即可
image

2 个赞

:+1:

马上试试,今天也用不了

好像 gpt-4-turbo 又可以用了

1 个赞

好的,谢谢

不能用了吧

正常的很,就是多加了一个请求头的跨域请求

还能用不?

可以啊。

感觉流有问题,回答一半就开始重复刷屏了

用这个尝试一下呢?我试了一下没有毛病啊。。

这个不会但是说一半就夹断了。。然后问他就忘记上面对话了,可能达到最大输入token了

可能是吧,,

这个不支持多轮对话吧,可以在 cf 代码里 改装一下。
但是改装的话,不知道 api 的 最大输入是多少,说不定就失败了。
这应该也是原作者的考虑吧。

我用的场景需要上下文,但不多,改装了一下勉强能用。

具体怎么改造的呢?给我看看

很抱歉,已经上床了。

大概就是这一行代码
const userMessage = incomingData.messages[incomingData.messages.length - 1].content;

它只取了数组最后一个的 content,可以修改为遍历全部数据,包括 role 和 content拼接为一个字符串。

啊、我知道啊,但是我不想改了。能麻烦明天起床了 发出来吗 :dog: :dog:

这很难吧,周六起不来的:smiling_face_with_tear:

那好吧。我自己来。。

gpt改的

const userMessage = incomingData.messages.map(message => `${message.role}: ${message.content}`).join('\n');