# 【开源】LLMRelayService —— Docker 部署个人大模型网关

**URL:** <https://linux.do/t/topic/2056392>\
**Category:** 开发调优\
**Tags:** 人工智能, 软件开发, 开源推广\
**Created:** [2026 年4 月 25 日 14:12 UTC](https://linux.do/t/topic/2056392 "2026-04-25T14:12:31Z")\
**Posts on this page:** 1\
**Showing post:** 1

<div class="post-metadata">

作者： ![applefood](https://cdn.ldstatic.com/user_avatar/linux.do/applefood/32/795373_2.png) [@applefood](https://linux.do/u/applefood)\
发布日期： [2026 年4 月 25 日 14:12 UTC](https://linux.do/t/topic/2056392/1 "2026-04-25T14:12:36Z")

</div>

#### **本帖使用社区开源推广，符合推广要求。我申明并遵循社区要求的以下内容：**

- **我的帖子已经打上 [开源推广](https://linux.do/tag/2234-tag/2234) 标签：** 是

- **我的开源项目完整开源，无未开源部分：** 是

- **我的开源项目已链接认可 LINUX DO 社区：** README 已添加链接🔗

- **我帖子内的项目介绍，AI生成、润色内容部分已截图发出：** 是

- **以上选择我承诺是永久有效的，接受社区和佬友监督：** 是

* * *

# **一、前言**

之前用NewAPI，就是有点重，比较适合中转站，和自用不太一样。

遇到的问题如下：

1. 有时候需要看请求完整内容

2. 模型价格需要配置和同步

3. 接口格式转换稳定性很玄学

4. 用户管理、余额功能用不到

遂开发了一个自用的网关 [GitHub - GoJam11/LLMRelayService · GitHub](https://github.com/GoJam11/LLMRelayService)

# **二、基础使用**

[![image](https://cdn3.ldstatic.com/original/4X/a/6/8/a6850aea3ec85a5873bb818274b507f798571f52.jpeg)](https://cdn3.ldstatic.com/original/4X/a/6/8/a6850aea3ec85a5873bb818274b507f798571f52.jpeg "image")

支持配置 openai 和anthropic 上游，可以直接使用v1/chat/completions 等端点。

# **三、高级功能**

### **指定渠道**

请求时可以加/providers/{channelName}指定上游

### **路由别名**

支持将任意model name 映射到providers.model。下游应用可以配置"Auto"模型。

[![image](https://cdn3.ldstatic.com/original/4X/a/7/f/a7f4158e91f3d6549892ee9323db7b2e77ee5f51.png)](https://cdn3.ldstatic.com/original/4X/a/7/f/a7f4158e91f3d6549892ee9323db7b2e77ee5f51.png "image")

### **请求日志**

可以查看首Token 耗时、总耗时、Token 消耗和缓存、价格

[![image](https://cdn3.ldstatic.com/original/4X/b/1/8/b185d77449e112635a8171d6541c96fd57c87a3f.png)](https://cdn3.ldstatic.com/original/4X/b/1/8/b185d77449e112635a8171d6541c96fd57c87a3f.png "image")

### **渠道健康**

[![Pasted Graphic 1](https://cdn3.ldstatic.com/original/4X/d/2/0/d20d6b2580c640abd6c170939b8702883d960799.png)](https://cdn3.ldstatic.com/original/4X/d/2/0/d20d6b2580c640abd6c170939b8702883d960799.png "Pasted Graphic 1")

### **使用趋势**

[![Pasted Graphic 3](https://cdn3.ldstatic.com/original/4X/f/9/8/f9887681a3ed057152944c633ddb401b7ea536fa.png)](https://cdn3.ldstatic.com/original/4X/f/9/8/f9887681a3ed057152944c633ddb401b7ea536fa.png "Pasted Graphic 3")

### **模型和来源聚合**

[![Pasted Graphic 4](https://cdn3.ldstatic.com/original/4X/a/1/b/a1bd6ce3d450b7e4ea61251a221d6f32c06d9635.png)](https://cdn3.ldstatic.com/original/4X/a/1/b/a1bd6ce3d450b7e4ea61251a221d6f32c06d9635.png "Pasted Graphic 4")

### **成本和缓存**

[![Pasted Graphic 5](https://cdn3.ldstatic.com/original/4X/c/c/8/cc8b2ad9030449601f4674a268a335cbbbaf7847.png)](https://cdn3.ldstatic.com/original/4X/c/c/8/cc8b2ad9030449601f4674a268a335cbbbaf7847.png "Pasted Graphic 5")

### **Responses转换**

支持将上游chat compeltions转为responses，兼容Codex

* * *

仓库地址： [GitHub - GoJam11/LLMRelayService · GitHub](https://github.com/GoJam11/LLMRelayService)

这个项目起初是为了接入各种中转上游做的，可以清楚看到各个上游的成功率等数据，包括coding plan。

如果对你有帮助，欢迎 Star～ 也欢迎提意见

---

_[View the full topic](https://linux.do/t/topic/2056392)._