【开源推广】pi-model-config:模型参数推断出来,不用手填 models.json

本帖使用社区开源推广,符合推广要求。我申明并遵循社区要求的以下内容:

  • 我的帖子已经打上 开源推广 标签: 是
  • 我的开源项目完整开源,无未开源部分: 是
  • 我的开源项目已链接认可 LINUX DO 社区: 是
  • 我帖子内的项目介绍,AI生成、润色内容部分已截图发出: 是
  • 以上选择我承诺是永久有效的,接受社区和佬友监督: 是

以下为项目介绍正文内容,AI生成、润色内容已使用截图方式发出


用 pi 接第三方网关每次都要写配置很烦,我写了个扩展:加 URL 和 Key,模型参数全部自动推断

github:GitHub - xinghe-labs/pi-model-config: Pi extension: add a model endpoint from a URL and a key, infer its capabilities, then keep models.json in step. 零依赖中文界面 | /model-config add edit sync check · GitHub


 pi install npm:pi-model-config

用 pi 的佬友试试

3 个赞

可以hook session_start实现每次启动自动更新配置

貌似同步的费用数据有问题,全是
“cost”: {
“input”: 0,
“output”: 0,
“cacheRead”: 0,
“cacheWrite”: 0
}

已经内置了,每次启动会更新

没看源代码,我就问一句,会不会被当作测活?

中转一站识别不到模型价格
可以试试管key

只拉取模型列表,不进行请求,模型参数是通过https://models.dev 推断出来的

1 个赞

加个保底机制?没有识别到提供商,模型使用官方价格.
我习惯在自己服务器部署一个网关做聚合,用的是gpt-load

收到,这样没有风险,明天上班试试。