（已寄）上贡 900 美元免费 API，邀请兄弟们给我的新项目压测

资源荟萃
1

不喜欢 one/new-api 复杂的功能，自己撸了一个纯使用 yaml 配置文件部署的 api 中转项目 uni-api，没有前端，可能后面会补上，合适程序员使用：

今天的 API 就是用我写的项目部署的。希望兄弟们小手点点 star :star2:。

目前还是项目初期，都是最有用的功能：

  1. 目前支持 gpt claude Gemini 转 gpt 格式

  2. 并支持图片

  3. 轮训（负载均衡）。

特此上贡 900 美元 API，邀请兄弟们给我项目压测或者提提意见，明天过期。

api：sk-DfSXcY_IrVavZ84xIeWbGPlj-zbLd3JxmvB44RfO5q0
base_url: https://api.0okm9ijn.xyz/v1/chat/completions

目前支持模型有：claude-3-5-sonnet-20240620，gpt-4o，claude-3-opus-20240229。

36 个赞
3

还有这种要求的啊？

1 个赞
4

感谢，我回去试试

1 个赞
5

大家都看到了，是他主动要求的:smiling_face_with_three_hearts:

6

轮询？
还有这种要求的啊？ 可惜我最近都在用fuclaude :smiling_face_with_three_hearts:

7

最近不是都在玩 GraphRAG，给他上上强度！

1 个赞
8

能不能来点真的东西？

curl --location 'https://api.0okm9ijn.xyz/v1/chat/completions' \completions' \
--header 'Content-Type: application/json' \
--header 'Authorization: Bearer sk-DfSXcY_IrVavZ84xIeWbGPlj-zbLd3JxmvB44RfO5q0' \
--data '{
  "model": "gpt-4o",
  "messages": [
    {
      "role": "user",
      "content": "Whats the weather like in Boston today?"
    }
  ],
  "tools": [
    {
      "type": "function",
      "function": {
        "name": "get_current_weather",
        "description": "Get the current weather in a given location",
        "parameters": {
          "type": "object",
          "properties": {
            "location": {
              "type": "string",
              "description": "The city and state, e.g. San Francisco, CA"
            },
            "unit": {
              "type": "string",
              "enum": ["celsius", "fahrenheit"]
            }
          },
          "required": ["location"]
        }
      }
    }
  ],
  "tool_choice": "auto"
}'
4 个赞
9

感谢大佬

10

我超，活捉vv佬

1 个赞
11

谢谢测试，已收到边缘用例，API是支持 tool use 的，但是不支持
“unit”: {
“type”: “string”,
“enum”: [“celsius”, “fahrenheit”]
}

上面这个语法，实测把上面删掉就可以用。

12

BerriAI/litellm: Call all LLM APIs using the OpenAI format. Use Bedrock, Azure, OpenAI, Cohere, Anthropic, Ollama, Sagemaker, HuggingFace, Replicate (100+ LLMs)

这个你用过吗，也支持 yaml config

13

1721293395732
17212933957321558×936 21 KB

六个线程在跑 挺快的

1 个赞
14

嗯嗯，听说过，我喜欢自己造轮子，就自己写了一个。哈哈。litellm 如果有什么你喜欢的功能，也可以告诉我，我帮你开发一下。

15

哈哈，好的，大佬一般都喜欢需要用什么就自己写一个

16

支持aws claude 的function calling吗

17

没实际测试过，你可以试试。如果不支持，我帮你适配一下。

18

谢谢佬，看到后台疯狂报错。不知道是不是你。哈哈。

19

lobeChat 插件（搜索）GPT-4o fuction call:
“error”: {
“code”: “bad_response_status_code”,
“message”: “Provider API error: bad response status code 500 (request id: 20240718173017120047183WaYOPQKs)”,
“param”: “500”,
“type”: “upstream_error”

20

貌似用不了

21

我刚刚测试了一下是能用的。是不是 url 填错了。