现在有哪个模型路由器支持原始转发

目前市面上有one-api、new-api、one-hub等等,但是目前有很多模型在openai规范的基础上,有自定义请求参数,最典型的就是联网搜索参数,比如qwen系列,文心一言系列等
用上面这些中转,基本上都会把自定义参数部分给过滤掉,导致损失各种特色功能

有没有哪个产品能够正常记录请求日志,同时又支持转发原始请求体?

2 Likes

onehub也不能保留原始请求体

最近的更新好像支持了额外的参数,但是不确定是不是所有的参数都支持,你可以更新到最新dev版测试下

不是加个参数就能解决的问题,onehub其实有个额外参数的配置功能,可以添加自定义参数,问题是那个功能只是转发的时候添加一些固定的参数,并不能提取原始请求中的参数。
比如,额外参数我写了{“use_web”:true},即使客户端请求{“use_web”:false},它也不会改过来

这个应该算是个新的需求

你没明白我的意思,我不是说在onehub加个参数支持这个。我的意思是让客户端(接入onehub的客户端)来控制额外参数的值,onehub负责正常转发出去。现在是只能在onehub里面加参数直接写死参数的值

不是要让onehub加某个指定的参数进去,而是让onehub支持“直接转发”的功能,原始请求体什么样,就直接转发出去

你提个Issue,说希望支持直接支持客户端的参数转发,看看作者会不会增加该功能。

或者让AI给你改一改one-hub源码支持你这个需求

newapi这个是吗

感觉让onehub加这个有点难,我自己对go语言并不熟悉,所以,我才想问有没有其他的替代品现在已经支持这个了

楼上的new-api貌似支持透传

这个看着很像,开了这个,日志什么的正常记录么?

这个就比较麻烦,发现一个就让加一个,要是开放一个“参数白名单”就好了,在ui界面自己加,不用每次源码里面去加这个

没试过呢

UNI_API应该支持

我的API-Pool应该也没问题

1 Like

可以去one-hub提issues,现在它支持gemini和claude,可以去体issues

这个配置看着挺粗暴,是全局配置,所有渠道全部变成透传

这个功能我知道,不是我说的那个效果。
他这个overwright参数是针对自定义参数的处理逻辑,不是处理原始请求里面发来的参数的。
原始请求的参数会被事先过滤掉,然后再通过overwright参数确认“额外参数”里面写的内容要不要覆写

你还是没明白我的意思。我不是要在onehub写死联网还是不联网,我是想要客户端来控制是否联网。
我举个例子,用lobechat客户端,有“是否使用内置联网”功能的按钮,如果onehub这里写死了,那么lobechat用户端是关不掉的

比如我请求体写:{"use_web":false},这个传递给onehub,他会直接忽略掉,然后强制用{"use_web":true}这个传递给上游,不能自主控制

单起一个newapi只为这个渠道服务不就行了,其他渠道用原来的newapi

:bili_040: 既然有能够搭建 One/New API 的服务器,为什么不直接用 Nginx/Caddy 写个简单的反代呢?


GCP 系列特别是 Gemini 我用 Cloudflare Worker 反代,主要是出新模型适配新参数可以直接在中转里改,比改客户端简单得多。

你是不是没有用过?你试下就知道了,那个overwright不是你理解的那个意思

image

{"use_web":true, "overwrite": false}这样设置之后,他会增加"use_web":true这个参数,是直接加上去,不会管你原始请求写的什么值,你发送的是无论是false还是true,他都是向上游传递true