一开始在open-webui 开启了流式输出还是不行
我就怀疑是不是api的问题 去nex webchat 试了一下发现可以 那就是我网站的问题
最后在本机搭建了一个open-webui 用ip加端口访问 发现可以
那很简单了 肯定是反向代理的问题 由于楼主很笨 一直用的是Nginx Proxy Manager
最后问AI
gemini-exp-1114 不行
4o 已经开始瞎编了
claude
还得是claude啊！！！
proxy_buffering off;
proxy_cache off;
proxy_set_header Connection '';
proxy_http_version 1.1;
chunked_transfer_encoding on;
这些配置会禁用代理缓冲和缓存,设置HTTP/1.1协议,并启用分块传输编码。
如果您的后端应用程序使用WebSocket,还可以添加:
proxy_set_header Upgrade $http_upgrade;
proxy_set_header Connection "upgrade";