目前市面上有one-api、new-api、one-hub等等,但是目前有很多模型在openai规范的基础上,有自定义请求参数,最典型的就是联网搜索参数,比如qwen系列,文心一言系列等
用上面这些中转,基本上都会把自定义参数部分给过滤掉,导致损失各种特色功能
有没有哪个产品能够正常记录请求日志,同时又支持转发原始请求体?
目前市面上有one-api、new-api、one-hub等等,但是目前有很多模型在openai规范的基础上,有自定义请求参数,最典型的就是联网搜索参数,比如qwen系列,文心一言系列等
用上面这些中转,基本上都会把自定义参数部分给过滤掉,导致损失各种特色功能
有没有哪个产品能够正常记录请求日志,同时又支持转发原始请求体?
onehub也不能保留原始请求体
最近的更新好像支持了额外的参数,但是不确定是不是所有的参数都支持,你可以更新到最新dev版测试下
不是加个参数就能解决的问题,onehub其实有个额外参数的配置功能,可以添加自定义参数,问题是那个功能只是转发的时候添加一些固定的参数,并不能提取原始请求中的参数。
比如,额外参数我写了{“use_web”:true},即使客户端请求{“use_web”:false},它也不会改过来
这个应该算是个新的需求
你没明白我的意思,我不是说在onehub加个参数支持这个。我的意思是让客户端(接入onehub的客户端)来控制额外参数的值,onehub负责正常转发出去。现在是只能在onehub里面加参数直接写死参数的值
不是要让onehub加某个指定的参数进去,而是让onehub支持“直接转发”的功能,原始请求体什么样,就直接转发出去
你提个Issue,说希望支持直接支持客户端的参数转发,看看作者会不会增加该功能。
或者让AI给你改一改one-hub源码支持你这个需求
感觉让onehub加这个有点难,我自己对go语言并不熟悉,所以,我才想问有没有其他的替代品现在已经支持这个了
楼上的new-api貌似支持透传
这个看着很像,开了这个,日志什么的正常记录么?
这个就比较麻烦,发现一个就让加一个,要是开放一个“参数白名单”就好了,在ui界面自己加,不用每次源码里面去加这个
没试过呢
UNI_API应该支持
我的API-Pool应该也没问题
可以去one-hub提issues,现在它支持gemini和claude,可以去体issues
这个配置看着挺粗暴,是全局配置,所有渠道全部变成透传
这个功能我知道,不是我说的那个效果。
他这个overwright参数是针对自定义参数的处理逻辑,不是处理原始请求里面发来的参数的。
原始请求的参数会被事先过滤掉,然后再通过overwright参数确认“额外参数”里面写的内容要不要覆写
你还是没明白我的意思。我不是要在onehub写死联网还是不联网,我是想要客户端来控制是否联网。
我举个例子,用lobechat客户端,有“是否使用内置联网”功能的按钮,如果onehub这里写死了,那么lobechat用户端是关不掉的
比如我请求体写:{"use_web":false}
,这个传递给onehub,他会直接忽略掉,然后强制用{"use_web":true}
这个传递给上游,不能自主控制
单起一个newapi只为这个渠道服务不就行了,其他渠道用原来的newapi
既然有能够搭建 One/New API 的服务器,为什么不直接用 Nginx/Caddy 写个简单的反代呢?
GCP 系列特别是 Gemini 我用 Cloudflare Worker 反代,主要是出新模型适配新参数可以直接在中转里改,比改客户端简单得多。
你是不是没有用过?你试下就知道了,那个overwright不是你理解的那个意思
{"use_web":true, "overwrite": false}
这样设置之后,他会增加"use_web":true
这个参数,是直接加上去,不会管你原始请求写的什么值,你发送的是无论是false还是true,他都是向上游传递true