【T佬】GPT-Load 1.0正式版发布,支持多渠道Key池轮询代理服务!

或者服务器直连官方也行

v1.0.18更新:

  • 移动端适配 – 特别感谢 @OrzMiku (佬友看到麻烦联系修改下L站用户名)
  • 仪表盘显示10分钟RPM统计
  • 修复状态变更时分页没有正确重置的问题
  • 修复密钥列表宽度遮挡问题
  • 分组密钥检查增加状态选项,支持检查分组无效和有效密钥
  • Safari浏览器兼容性问题处理
2 个赞

我是2c2g的。有佬的项目,还有new api。还有一个alist。也没怎么卡啊,我看htop。可能是因为我的只有我一个人用。

2 个赞

嗯,那位佬是最初版本,只能MYSQL的。mysql比较耗资源。
现在有sqlite版本,非常轻量了。

是的,对于我的小鸡来说 目前运行不是什么问题。 :smiling_face_with_three_hearts:回去就更新1.0.18

1 个赞

这样并不好,上下文都不一样,还有能不能回调工具也不一样,模型参数更不一样
唯一相同的只是模型名而已

1 个赞

佬,可以增加个上游地址测试功能么,这样能直接知道添加进去的上游地址是不是有效的

1 个赞

太感谢了佬. go写的工具项目太爽了, pm2 本地启动占用显示才1.2M.

顺便问下: release 发布的 macos 版本可以增加 intel X86 吗? 默认只有 arm 芯片的.

应该不会增加太多的时间.

name: Release MacOS Build
permissions:
  contents: write

on:
  push:
    tags:
      - "*"
jobs:
  release:
    runs-on: macos-latest
    steps:
      - name: Checkout code
        uses: actions/checkout@v4
        with:
          fetch-depth: 0
      - name: Setup Node
        uses: actions/setup-node@v4
        with:
          node-version: "20.x"
          cache: "npm"
          cache-dependency-path: "web/package-lock.json"
      - name: Build Frontend
        run: npm install && VITE_VERSION=${{ github.ref_name }} npm run build
        working-directory: ./web
      - name: Setup Go
        uses: actions/setup-go@v5
        with:
          go-version: "1.23.x"
      - name: Build Backend ARM64
        run: |
          go mod download
          go build -ldflags "-s -w -X gpt-load/internal/version.Version=${{ github.ref_name }}" -o gpt-load-macos-arm64
        env:
          CGO_ENABLED: 0

      - name: Build Backend x86_64
        run: |
          go mod download
          GOOS=darwin GOARCH=amd64 go build -ldflags "-s -w -X gpt-load/internal/version.Version=${{ github.ref_name }}" -o gpt-load-macos-x86
        env:
          GOOS: darwin
          GOARCH: amd64
          CGO_ENABLED: 0

      - name: Release
        uses: softprops/action-gh-release@v1
        if: startsWith(github.ref, 'refs/tags/')
        with:
          files: |
            gpt-load-macos-arm64
            gpt-load-macos-x86
          draft: true
          generate_release_notes: true
        env:
          GITHUB_TOKEN: ${{ secrets.GITHUB_TOKEN }}

1 个赞


佬们,我想我问一下如果想使用gpt-load的gemini 的openai格式,new api里应该怎么填端点呀?我这样写获取不到模型列表 :sob::https://*.com/proxy/gemini/v1beta/openai/

但是cherry studio就可以 :face_with_spiral_eyes:

1 个赞

可以的,已建issue。

T 佬牛逼
我马上部署

1 个赞

很好的建议,只是这个需求很少,所以没有编译。
下个版本就加上。

佬友只能临时自己编译或者用docker版本了。

1 个赞

你如果一定要在newapi里面用gemini的openai兼容格式,那就只能这样配置。
是因为newapi的openai格式要自动加v1,所以就会导致格式错误。所以要用自定义渠道,然后填写完整的接口地址。

这种方式不能获取模型,只能手动写入模型。

是的. 我自己编译跑起来没问题. cmake run 不适合作为开机项.

1 个赞

感谢佬回复,但是不论是gemini原生格式还是佬给出的openai格式,在new api,我这边这两种格式仍然没法获取模型列表,我只能把gemini balance 的模型列表偷过来粘贴上才行,这是newapi的bug嘛

1 个赞

Gemini格式,是可以获取模型的。
但是!!!但是有bug,如果新建的时候这样写可能是无法获取,要随便写个模型保存刷新之后,再编辑就可以获取模型列表了。

佬友可以测试一下是不是这样。


我测试过,不是gpt-load的问题,我用原生gemini也是一样的。

无效KEY现在混着429和400类型。删除清理不太方便,细分也一下无效KEY类型,方便清理非429的无效KEY,那就更好了

1 个赞

日志里面会根据筛选的条件导出密钥,所以可以输入状态码然后导出该状态码的相关密钥。


后续也会增加功能:分组测试密钥显示结果时根据不同错误码分组,可以分别导出不同错误码的密钥功能。

4 个赞

大佬威武

1 个赞

nnd,还真是 :bili_020:,也就是说,对于gpt-load gemini分组,在new api这里获取模型列表,gemini格式需要特殊操作才行,openai暂时不支持。

1 个赞