OpenWebUI 启用 WS 以使响应更流畅

[TRG]

OKOK，这是gemini几个ws的输出

[Throttle (方块AI)]

看起来还好，那还是比较流畅嘛

[TRG]

这是deepseek流畅输出的ws，信息量确实部署一个等级

[TRG]

gemini输出是快的，但是它直接一段一段输出，而不是一个字一个字打出来：快但是体验不流畅

[George (時価ネット田中)]

佬看看私信

[TRG]

okok的

[George (時価ネット田中)]

快看～～

[funnycups]

redis和ws开了之后日志里会有提示吗？我这试了一下，日志没提到redis，然后文字输出好像还是大片的

[TRG]

看一下我上面的截图？f12->network->ws->messages就可以看到每个数据包的内容了

[funnycups]

看到了
但我把ENABLE_WEBSOCKET_SUPPORT和Redis关掉，也是这样的啊，似乎开和不开没什么区别？

[NINE]

ws的开发难度挺高的

[tk-programmer (kk)]

佬，默认就是ws吧

[yangtb2024]

好像默认就开了的吧，以前openwebui内置了个输出优化，那个才真的有用

[Throttle (方块AI)]

大意了没有闪

[shallowdream024 (浅梦)]

感谢佬友！！！终于解决了我有一个渠道每次都大块响应，不过怪事+1，F12面板我无论怎么刷换浏览器，时间都显示待处理 ，但是调试显示连上了的，体验+++++++++++

[xiniah]

openwebui 的 ws 每个event 传的都是完整的内容，而不是增量的内容。导致当出现输出速度特快且上游按每个token 为一个event 时的服务器压力特别大（例如groq 家的deepseek r1 70b）

[xiniah]

这个是owu

这个是cherry studio

[lsolol (韩老魔)]

没开启这个好像也很流畅

[CitizenScyu (黄豆豆)]

啥情况,同一个模型速度不一样吗？

[Yuccc (Fish)]

感谢分享