为什么感觉 流式都感觉是假流式呢(小白问题)

我感觉里流式应该是均衡速度
但事实例如LOBECHAT是前面均匀后面一下子出来一堆

可能是卡了

流式一般都有 buffer 的,如果网络好的话会遵循设置的时间间隔输出。如果网络不好或者没有 buffer 机制就会出现你说的这种情况。

1 Like

很正常,因为客户端并不能预估流式数据的响应速度,它会按照 buffer 进行打字机输出,然后如果收到流式响应结束的标志(finish)就会把 buffer 里的内容全部吐到前端页面上

如果是很明显的一段一段吐字,那大概率是 az

1 Like

我不喜欢流式,我喜欢它一股脑塞进来