【寄了】接力v佬,aipro流式支持(移步reno佬的真流式 https://linux.do/t/topic/65696)


刚测试了可以用啊,你要不重新搞一下, 看看哪里出问题了

1 个赞

那我再试试看

1 个赞

是假流式是不是,我测试好像不是慢慢输出,是一次性出来

1 个赞

嚯哦!!!!!!好家伙,秀

1 个赞

是的,因为他那个接口本来就是非流式,数据在cf那里已经全拿到了,我索性就让他一下子传过来了,就是利用了流式的格式而已,一个个字蹦反而慢了。

1 个赞

这个或许是你想要的

1 个赞

也是一样

1 个赞

我也是假流式实现的,流式是另一个佬搞得另一个接口,这个接口流式不了

1 个赞

嗯嗯,了解的,本来接口就不是流式的,我们只是模仿流式输出,我以为这个佬友想要你那种效果

1 个赞

不过我测试了一下,真流式的那个接口好像现在只能用3.5了

1 个赞

4的接口好像只剩1106那个型号的

1 个赞

流式的那个发来瞧瞧

1 个赞

你不说我还没发现,确实可以,谢谢佬哥 :kissing_heart:,之前只测了gpt-4-turbo用不了了

1 个赞

上链接

1 个赞

https://linux.do/t/topic/65696

1 个赞

糟糕!该页面是一个不公开页面。

1 个赞

赶紧升级吧,二级才能看到的帖子

1 个赞

这个我还没试,不知道和你的有啥区别,不过你的worker感觉就挺好用的~

2 个赞

这个逆向接口,本身是流式,响应会更快一些

1 个赞

那我试试~

1 个赞