【该接口已寄，移步65696】[接力vv佬]在nextchat上用不了ai pro？这个解决办法帮助你成功舒适白嫖免费GPT-4

wo_zu_long · 2024 年4 月 23 日 16:01

不知道aipro api能白嫖的走这里
因为原来的响应体是非流式，所以直接将其模拟为流式就可以让各个前端项目解析json
接下来，我就不多bb了，我直接把代码贴在下面，worker直接爽用即可

注，代码修改于vv佬分享的代码，感谢vv佬
@vux1jpmal5t41lg

addEventListener("fetch", event => {
  event.respondWith(handleRequest(event.request))
})

async function handleRequest(request) {

  if (request.method === "OPTIONS") {
    return new Response(null, {
      headers: {
        'Access-Control-Allow-Origin': '*',
        "Access-Control-Allow-Headers": '*'
      }, status: 204
    })
  }

  // 确保请求是 POST 请求，并且路径正确
  if (request.method === "POST" && new URL(request.url).pathname === "/v1/chat/completions") {
    const url = 'https://multillm.ai-pro.org/api/openai-completion'; // 目标 API 地址
    const headers = new Headers(request.headers);

    // 添加或修改需要的 headers
    headers.set('Content-Type', 'application/json');

    // 获取请求的 body 并解析 JSON
    const requestBody = await request.json();
    const stream = requestBody.stream;  // 获取 stream 参数

    // 构造新的请求
    const newRequest = new Request(url, {
      method: 'POST',
      headers: headers,
      body: JSON.stringify(requestBody) // 使用修改后的 body
    });

    try {
      // 向目标 API 发送请求并获取响应
      const response = await fetch(newRequest);
      const responseData = await response.json(); // 解析响应数据

      // 如果 stream 参数为 true，则使用事件流格式发送响应
      if (stream) {
        return new Response(eventStream(responseData), {
          headers: {
            'Access-Control-Allow-Origin': '*',
            "Access-Control-Allow-Headers": '*',
            'Content-Type': 'text/event-stream',
            'Cache-Control': 'no-cache',
            'Connection': 'keep-alive'
          }
        });
      } else {
        // 如果不是流式响应，则直接返回响应数据
        return new Response(JSON.stringify(responseData), {
          status: response.status,
          headers: response.headers
        });
      }
    } catch (e) {
      // 如果请求失败，返回错误信息
      return new Response(JSON.stringify({ error: 'Unable to reach the backend API' }), { status: 502 });
    }
  } else {
    // 如果请求方法不是 POST 或路径不正确，返回错误
    return new Response('Not found', { status: 404 });
  }
}

function eventStream(data) {
  // Simplified eventStream function that does not split the content into chunks
  return `data: ${JSON.stringify({
    id: data.id,
    object: 'chat.completion.chunk',
    created: data.created,
    model: data.model,
    system_fingerprint: data.system_fingerprint,
    choices: [{
      index: 0,
      delta: { role: 'assistant', content: data.choices[0].message.content },
      logprobs: null,
      finish_reason: data.choices[0].finish_reason
    }]
  })}\n\n`;
}

在chatbox中测试通过，其他未尝试，理论都可行

（跟着始皇，我这臭搞嵌入式的也学了几个把事（汗））

bbb · 2024 年4 月 23 日 16:02

感谢分享，这就试试去

Dswang · 2024 年4 月 23 日 16:08

好好好，谢谢

baipiaodang · 2024 年4 月 23 日 16:09

感谢分享

bbb · 2024 年4 月 23 日 16:14

试了一下next web用不了，botgem倒是能用

wo_zu_long · 2024 年4 月 23 日 16:16

解决了，还简化了一下代码，把头昏脑涨加的没用玩意删了

Yelo · 2024 年4 月 23 日 16:17

我把worker 地址挂到new api ，然后密钥随便填个123，保存以后用next web 调new api 的令牌就行了

vux1jpmal5t41lg · 2024 年4 月 23 日 16:18

感谢大佬喂饭

bbb · 2024 年4 月 23 日 16:19

确实，但速度慢上加慢了…

wo_zu_long · 2024 年4 月 23 日 16:21

还是感谢vv佬无私的分享，老早之前都想知道传说中没key的GPT了

Yelo · 2024 年4 月 23 日 16:21

毕竟是非流的

Pokeman · 2024 年4 月 23 日 16:27

好好好，感谢大佬~

edwa · 2024 年4 月 23 日 16:48

感谢！nextchat访问不了应该是cors的问题，在一开始加上

if (request.method === "OPTIONS") {
      return new Response(null, {
        headers: {
          'Access-Control-Allow-Origin': '*',
          "Access-Control-Allow-Headers": '*'
        }, status: 204
      })
    }

返回时加上这两个

return new Response(xxx, {
      headers: {
        'Access-Control-Allow-Origin': '*',
        "Access-Control-Allow-Headers": '*',
        'Content-Type': 'text/event-stream; charset=UTF-8'

这样改大概可以

tigerK · 2024 年4 月 23 日 16:56

这也太强了

wo_zu_long · 2024 年4 月 23 日 16:56

是的，刚才看了一下，是这样的，缺少Access-Control-Allow-Origin，感谢，我添加进去

yuanshenqidong · 2024 年4 月 23 日 17:16

添加了可以自定义密钥。

addEventListener("fetch", event => {
  event.respondWith(handleRequest(event.request))
})

async function handleRequest(request) {
  // Validate the Authorization header and token
  const expectedToken = "sk-"; // 这里填你的密钥
  const authHeader = request.headers.get('Authorization');
  if (!authHeader || authHeader !== `Bearer ${expectedToken}`) {
    // If token is not present or incorrect, return an error
    return new Response(JSON.stringify({
      error: {
        message: "无效的令牌 (request id: 20240423165027522207531CfzwE8fz)",
        type: "new_api_error"
      }
    }), { status: 401 });
  }

  // 确保请求是 POST 请求，并且路径正确
  if (request.method === "POST" && new URL(request.url).pathname === "/v1/chat/completions") {
    const url = 'https://multillm.ai-pro.org/api/openai-completion'; // 目标 API 地址
    const headers = new Headers(request.headers);

    // 添加或修改需要的 headers
    headers.set('Content-Type', 'application/json');

    // 获取请求的 body 并解析 JSON
    const requestBody = await request.json();
    const stream = requestBody.stream;  // 获取 stream 参数

    // 构造新的请求
    const newRequest = new Request(url, {
      method: 'POST',
      headers: headers,
      body: JSON.stringify(requestBody) // 使用修改后的 body
    });

    try {
      // 向目标 API 发送请求并获取响应
      const response = await fetch(newRequest);
      const responseData = await response.json(); // 解析响应数据

      // 如果 stream 参数为 true，则使用事件流格式发送响应
      if (stream) {
        return new Response(eventStream(responseData), {
          headers: {
            'Access-Control-Allow-Origin': '*',
            'Access-Control-Allow-Headers': '*',
            'Content-Type': 'text/event-stream; charset=UTF-8',
            'Cache-Control': 'no-cache',
            'Connection': 'keep-alive'
          }
        });
      } else {
        // 如果不是流式响应，则直接返回响应数据
        return new Response(JSON.stringify(responseData), {
          status: response.status,
          headers: response.headers
        });
      }
    } catch (e) {
      // 如果请求失败，返回错误信息
      return new Response(JSON.stringify({ error: 'Unable to reach the backend API' }), { status: 502 });
    }
  } else {
    // 如果请求方法不是 POST 或路径不正确，返回错误
    return new Response('Not found', { status: 404 });
  }
}

// 生成事件流格式数据的函数
function eventStream(data) {
  const chunks = data.choices[0].message.content.split(' '); // 将内容分割成单词数组
  let events = '';

  events += `data: ${JSON.stringify({
    id: data.id,
    object: 'chat.completion.chunk',
    created: data.created,
    model: data.model,
    system_fingerprint: data.system_fingerprint,
    choices: [{
      index: 0,
      delta: { role: 'assistant', content: '' },
      logprobs: null,
      finish_reason: null
    }]
  })}\n\n`;

  for (const chunk of chunks) {
    events += `data: ${JSON.stringify({
      id: data.id,
      object: 'chat.completion.chunk',
      created: data.created,
      model: data.model,
      system_fingerprint: data.system_fingerprint,
      choices: [{
        index: 0,
        delta: { content: chunk + " " },
        logprobs: null,
        finish_reason: null
      }]
    })}\n\n`;
  }

  events += `data: ${JSON.stringify({
    id: data.id,
    object: 'chat.completion.chunk',
    created: data.created,
    model: data.model,
    system_fingerprint: data.system_fingerprint,
    choices: [{
      index: 0,
      delta: {},
      logprobs: null,
      finish_reason: 'stop'
    }]
  })}\n\n`;

  return events;
}

wo_zu_long · 2024 年4 月 23 日 17:17

好好好，衬托出ai pro这真是炒菜班子

ciarany · 2024 年4 月 23 日 17:26

真牛

wo_zu_long · 2024 年4 月 23 日 18:39

From 常规话题 to 人工智能

wo_zu_long · 2024 年4 月 23 日 18:39

Added chatgpt, 小工具

话题		回复	浏览量
【寄了】接力v佬，aipro流式支持（移步reno佬的真流式 https://linux.do/t/topic/65696）人工智能 chatgpt , openai	127	2141	2024 年4 月 26 日
worker aipro 不生效快问快答	33	483	2024 年4 月 25 日
【接口已失效】aipro不知道如何使用？oaipro配置软件分享	23	985	2024 年4 月 25 日
接力，服务器代理去请求aipro，流式返回软件开发 openai	13	618	2024 年4 月 25 日
（需要过盾）ai-pro.org的逆向软件开发	48	1385	2024 年5 月 3 日

【该接口已寄，移步65696】[接力vv佬]在nextchat上用不了ai pro？这个解决办法帮助你成功舒适白嫖免费GPT-4

相关话题