tbphp
(唐洛)
1
具体解决方案见评论: 【已解决,更新实现方案】如何搭建一个高质量的Gemini Key池? - #56,来自 tbphp
手里有2个gcp,还有几十个免费层级的key。想搞个团队内部的key池服务。
最近关于这方面的研究很多,看了很多大佬的方案。
站内几个轮询项目都部署过。
但是对于网络代理一直有疑问。
多key单ip肯定不行,那如何管理网络代理呢?
每个key都随机是使用某个代理,还是有方法一个代理下面指定几个key?
求教这方面的大佬解惑。如果有完整的落地方案借鉴就更好了。
还有个情况忘了说明,由于团队情况,成员网络不能翻墙,所以服务只能部署国内,或者本地。
经过大佬们的解惑,总结几个方式:
- hunggingface 部署gb
- cf 的ai gateway
- 自己实现代理ip自动更换
接下来这几个方法都调研实践一下,后面持续更新反馈。
82 Likes
tbphp
(唐洛)
3
由于网络原因,不能再hunggingface或者外面的服务器上搞。
gb本地用过,但是也解决不了ip的问题吧。
2 Likes
stickland
(Stickland)
5
hg的单ip用了快一个月了,100多个key就封了5个,没啥问题。
4 Likes
stickland
(Stickland)
6
hg的docker可以直接访问,没问题的
速度不比国内慢
2 Likes
stickland
(Stickland)
8
5 Likes
highkay
(黄师傅)
12
直接用cf的ai gateway代理就好了,基本不会封的。
4 Likes
tbphp
(唐洛)
14
大佬是哪个项目啊?开源的吗?这是给我定制化解决方案来了,哈哈。
5 Likes
tbphp
(唐洛)
16
看站内佬友评价cf路由国内访问不稳定?
去我研究一下看看
2 Likes
highkay
(黄师傅)
18
我自己用下来还可以吧,目前就是warp/ztna被封锁厉害,其他的服务还是挺正常的。
2 Likes
tbphp
(唐洛)
19
我也有这个疑虑,这样就相当于同一个key每次都不同的ip,这种情况和多个key单ip,哪个被风控的概率高呢。