刚更新到最新版,调用大模型有返回,但是界面报错了…
我的模型没有问题诶
openweb ui新版本经常卡bug,如果是bug可以等下一个版本修复就好
用的逆向的吗?看起来没有适配非流接口
1 个赞
这个就叫专业
1 个赞
主要是这个错误太眼熟了,newapi测渠道就是非流调用,逆向的没有适配非流接口就会出现这个错误
1 个赞
你是不是用nginx做了反代,需要nginx开启websocket
location / {
proxy_pass http://host.docker.internal:3000;
# Add WebSocket support (Necessary for version 0.5.0 and up)
proxy_http_version 1.1;
proxy_set_header Upgrade $http_upgrade;
proxy_set_header Connection "upgrade";
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
proxy_set_header X-Forwarded-Proto $scheme;
# (Optional) Disable proxy buffering for better streaming response from models
proxy_buffering off;
}
1 个赞
谢谢佬,加上好了