在 huggingface 🤗 上部署Override,轻松让Copilot使用deepseek进行代码补全提示

众所周不知,huggingface 有提供一个 CPU basic· 2 vCPU.16 GB 的免费服务。创建Space SDK的时候有多种选择,包含 docker

那就把Override部署上去,使用deepseek的 key,实现代码补全玩一下。huggingface访问需要梯子,部署之后发布的页面是不需要的。

注意:以下说明中创建部署的项目类型是 public 的,可能会导致deepseek的 key 泄露。
private 类型的自行研究,接口需要带 token。 部署之后实现代码补全,没有chat

部署过程
1.登录 huggingface 之后,选择创建新的空间,选择 docker- 空白模版 创建一个 Public 项目

2.创建完成之后自动跳转到项目仓库。将项目clone 到本地,打开 README 在末尾添加一条app_port: 8181

pinned: false 
app_port: 8181

下载 GitHub - linux-do/override: 啥也不是 项目,修改 config.json.example 文件如下

{
  "bind": "0.0.0.0:8181",
  "proxy_url": "",
  "timeout": 600,
  "codex_api_base": "https://api.deepseek.com/beta/v1",
  "codex_api_key": "sk-xxx",
  "codex_api_organization": "",
  "codex_api_project": "",
  "codex_max_tokens": 500,
  "code_instruct_model": "deepseek-coder",
  "chat_api_base": "https://api.deepseek.com/beta/v1",
  "chat_api_key": "sk-xxx",
  "chat_api_organization": "",
  "chat_api_project": "",
  "chat_max_tokens": 8192,
  "chat_model_default": "deepseek-coder",
  "chat_model_map": {},
  "chat_locale": "zh_CN",
  "auth_token": ""
 }

将其中的 sk-xxx 换成自己的 DeepSeek Key。保存后,将Override项目代码全部复制到 huggingface 上刚 clone 的项目中,不要复制README 不要复制README 不要复制README 和隐藏的git文件 这个要用的就是原本项目中的README。

3.复制完毕后提交代码,huggingface 代码仓库检测到存在Dockerfile后会立即编译。稍等一下,就会提示编译成功进入运行状态。

部署完毕,打开App页面显示 404 就表示成功了

4.看到 App 页面的 404 提示之后,再来获取这个页面的真实地址,这其实是一个iframe页面,F12 打开控制台找到到对应的iframe区域,其中有个地址包含你的账户名称与项目名称,将代这个链接复制出来即可。

之后怎么做就不多说了,可以参考 让Copilot用上DeepSeek总于搞明白了vscode和JetBrainsIDE都能用 直接跳到第二步开始。
配置的时候将本地地址 http://127.0.0.1:8181 全部替换为在 iframe 中拷贝出来的地址就可以了。

11 个赞

huggingface上的不是有时间限制的嘛,还有就是问下会不会被公开

2 个赞


免费的没有时间限制吧, public类型的项目是公开的

mark :tieba_001: :tieba_001: :tieba_001:

没有限制吗 互联网大善人

huggingface真是大善人啊

感觉在抱脸上部署访问速度是一个问题

要科学上网才行。。。。

我直接在本地跑了,傻瓜式

不存在网络大善人。可以配置认证。各位自己好好看看看始皇的文档。
核心问题是延迟。deepseek 现在如果不撞KV 缓存,回复还是很慢。如果部署在huggingface 上,那就有的等了。

部署之后的地址是不需要挂梯子的

有没有可能用vps中转一下,类似机场的操作

From #develop:ai to 资源荟萃