佬友们 你们o1的中转模型都是怎么使用的，我在nextchat中使用老是超时

开发调优
23

CF worker 100s超时

1 个赞
24

发开发者工具的控制台标签页相关内容和网络标签页中相关请求的响应，你这个定位不了问题的

1 个赞
25

用lobe-chat把 我感觉挺好用的也没超时过 可以试试

1 个赞
26

中转站的问题，你去问站长，解决不了就换一家

27

我用open webui，关闭流式，正常使用

28

你可以用以下 Python 代码测试一下

import json
import time

import requests

api_url = "https://xxx/v1/chat/completions"
api_key = "sk-xxx"

prompt = "2024年10月25日是星期几？说明原因。"


headers = {
    "Content-Type": "application/json",
    "Authorization": f"Bearer {api_key}",
}
payload = {
    "model": "o1-preview",
    "messages": [{"role": "user", "content": prompt}],
    "temperature": 1.0,
    "stream": False,
}

start_time = time.time()
try:
    # 发送请求并处理响应
    response = requests.post(api_url, headers=headers, json=payload).json()
    # 保存响应和输出结果
    content = response["choices"][0]["message"]["content"]

    print(f">>> {prompt}\n")
    print(f"<<< {content}\n")
    print(f"Token使用情况:\n{json.dumps(response['usage'], ensure_ascii=False, indent=2)}")
    print(f"请求耗时: {time.time() - start_time:.2f} 秒")

except requests.exceptions.RequestException as e:
    print(f"API请求失败: {str(e)}")
    raise

image
image836×928 24.8 KB

29

佬 请教下为啥用你的api放进cursor里能调用成功但是一直处于verfiy状态呢，是返回格式和官网不一致吗？还是不支持4o-mini（我看他是用这个模型验证的

30

没研究过额，确实不支持4o-mini，但也可能不是这个原因