【T佬】GPT-Load 1.0正式版发布,支持多渠道Key池轮询代理服务!

感谢佬,我去试试

2 Likes

我想套娃,能不能指定特定组不要轮询,或者根据请求key增加自定义请求头判定(主要是app不支持),不想建立单key分组

1 Like

t佬,在您的帮助下,我终于自己部署了一个。我是香港服务器,套了cf。在晚高峰时,无法访问,大佬你是如何让国内正常访问的,可以给个方案吗

1 Like

hk区域连cf区域 gemini 可能不支持这个区域。
建议换个区域。

你说的无法访问是哪个环节?
你无法访问服务器,还是服务器无法访问上游?

如果服务器域名套了cf的小黄云访问应该不会有问题才对,可以排查一下你自己的网络,或者切换一下其他网络节点。

是晚高峰期间,在没有开vpn的情况下,无法访问我的网址。网页连接一直转圈。

那我是不是需要下掉cf,是不是hk地区的服务器,国内访问直接直连就可以

刚刚您说的gemini我没有测试,直连的话,是不是也没有问题

1 Like

佬,同一个分组添加不同的上游地址,那分别对应的多个密钥也添加到同一个分组吗?怎么实现区分的 :grinning_face:

1 Like
1 Like

这种网络问题,我也不好分析。
只能根据你自己的情况尝试各种方式来排查了。

理解啦,谢谢佬

1 Like

好的,谢谢佬。

就是我想问一下您,您的网络方案是啥,我想参考一下,您也套了cf吗?

1 Like

嗯,我是JP区域的,讨论cf小黄云。访问正常。

1 Like
  • 你如果没开代理,通过cf的小黄云直连访问,不说本身就是龟速,是很有可能因为分配的ip问题访问不了的。建议还是开代理的。
  • 第二个方面,关于gemini的api请求,目前不支持香港地区的,这又客观需要你套一层cf之类的,但是你要用gemini,最好换个地区。
2 Likes

好的,感谢佬

1 Like

明白了,感谢佬。我就是开了小黄云,昨天晚高峰直接访问不了了

1 Like

大佬,我是用第一种 轻量化部署的方法部署的,Docker一直要保持在后台运行才可以链接的上吗,用源码部署的是不是也要呢?

1 Like

docker默认就是一直运行。

源码部署就要结合自己的系统环境考虑用其他软件或者服务来维持服务运行。

1 Like

好的,正在努力学习,感谢普及

1 Like

docker-compose部署,自带的sqllite高并发会报错request太多
换成了本地的mysql+redis。发现报错没了,但是速度变慢,流式要半分钟以上才有首字回复
这是vps的配置不行吗?(也就两三百并发,几十qps)

1 Like

并发要考虑各方面的情况吧,不太好精确的回复。
不过sqlite确实是并发支持不够。
用mysql,更高的配置肯定是能支撑更多的并发。

还不限于配置,上游网络也是一个问题。
你并发这么高,一半上游都不接受这么高的并发请求。

你还是需要根据实际的情况,比如错误日志等等来具体分析问题。


至于你本地,大概率是网络问题,自己多尝试调整各种配置或者环境来测试对比吧。

1 Like

佬我想问下除了Claw Cloud还有哪里白嫖部署GPT-load。仅个人roocode使用买一台vps最低限度的宽带速率是多少mbps,有能推荐的吗

2 Likes