使用o1-preview 模型,提示如图
相同的api、相同的问题,使用其他客户端(ChatBOX、Lobe)是可以正常回答的,基本排除API问题
请问大佬们知道这个问题是为何引起的吗?(网络问题?)
流式响应已关闭
比较耗时的请求会提示错误,比较简单的对话(耗时较短)不会出现此提示
测试对话内容:
后台请求日志:
使用o1-preview 模型,提示如图
相同的api、相同的问题,使用其他客户端(ChatBOX、Lobe)是可以正常回答的,基本排除API问题
请问大佬们知道这个问题是为何引起的吗?(网络问题?)
流式响应已关闭
比较耗时的请求会提示错误,比较简单的对话(耗时较短)不会出现此提示
测试对话内容:
后台请求日志:
在工作台裡面的stream的選項給關閉
楼上提到的stream问题是有可能的,o1 preview不支持流式 changelog
另外建议检查一下webui版本
把timeout值调高再试试,可以测试是不是因为超时而导致报错,不过我记得默认是300(?)感觉你这几个好像都没超时
调整到1000了还是会有这个问题,好像是超过60秒就不行了,58秒的可以正常响应
60秒?那会不会是你的代理商设置了60s超时
怀疑是Nginx配置,我查一下
有可能,不知道是不是你的/代理商的反代设置问题
我也是这样可以看下nginx的配置吗?
确认下Nginx中有没有配置 proxy_read_timeout 属性,这个属性的默认值是60
如果不确定可以贴出来配置看下
好的谢谢我试一下