无需Python依赖!我用Rust+Candle重写了DeepSeek-OCR的推理算法 零依赖CLI + 兼容OpenAI API

大家好,我是那个被 Python 环境折磨疯了、结果一怒之下把 DeepSeek OCR 重写成 Rust 版本的人 :sweat_smile:
爆肝了三天
如果你也想用 DeepSeek 官方发布的超强 OCR 模型,却被配置环境、装依赖搞到怀疑人生……那欢迎来看我这个“偷懒版”。

我为什么做它?

因为我自己受够了:
因为Python的环境根本不便携,拖家带口拉着一车依赖,真的很烦

所以我就把整个推理链路用 Rust 重新做了一遍,取名 deepseek-ocr.rs,目标只有一个——谁都能轻松用上 DeepSeek 的顶级 OCR。

它现在长这样:backhand_index_pointing_down:

  • :sparkles: 一个二进制就能跑,机器干净清爽
  • :sparkles: 内置 OpenAI 兼容 API,直接抄现成客户端
  • :sparkles: 和 Open WebUI 一起用就是“ChatGPT 识图体验”
  • :sparkles: Mac 上还能开 Metal 加速,速度飞起
  • :sparkles: 模型会自动下载缓存,再也不用手工折腾

最爽的使用方式(真实体验)

  1. 打开终端 ./deepseek-ocr-cli 或启动 server
  2. 浏览器里进 Open WebUI(界面漂亮得一塌糊涂)
  3. 扔一张小票图上去,输入:“帮我识别成 Markdown”
  4. 等几秒,它就像 ChatGPT 一样给你一段干净利落的文本。

你可能关心的点

  • 普通用户:终于有一个“下载即用”的 DeepSeek OCR,本地跑也不用担心隐私
  • 开发者:不用再被 Python 环境拖后腿,Rust 二进制部署超级清爽,OpenAI 客户端可以直接套
  • 对生态:让顶级 OCR 技术真正触达更多人,同时也给 Rust 在 AI 场景加了点信心

技术党顺嘴提一句

  • 推理引擎整个走 Candle,纯 Rust,不碰 PyTorch
  • Vision 模块按官方模型把 SAM + CLIP 全对齐,还留了调试接口
  • 语言模型那部分也做了 FlashAttention、KV Cache 等优化(还在继续打磨)
  • 支持 Apple Metal,加速的同时内存足够稳(模型大概 6.3 GB,跑起来需要 13 GB 左右内存)

如果你跟我一样不想再折腾 Python

直接来 GitHub

仓库里有更细的安装指南、图文教程、路线图,想深入研究也都写得明明白白。

最后小心愿

这个项目能走到现在,全靠 DeepSeek 官方开源了这么强的模型。Rust 版只是把门槛再降一下,希望“好用的 OCR”不再是极客玩具,而是每个人都能用的日常工具。

如果觉得帮到了你,给仓库点个 :star: 鼓励一下;也欢迎来聊聊你想要的功能,算我跪下来求你们了:folded_hands::folded_hands::folded_hands:,我还在持续打磨中 :raising_hands:

313 Likes

强啊大佬,这个可太厉害了,已经star,好好学习。

13 Likes

很极客,很先锋,给佬友点赞 :herb: 顺便给佬友star

6 Likes

强啊佬,一会学习一下,正好想搞个ocr

5 Likes

下载即用,要怎么用呀?又不是exe

4 Likes

star了,我的毕设刚好需要这个,顺带问问就是如果服务器部署的话需要至少13GB以上的内存是么

3 Likes

F32精度差不多就要吃13G了,加上KV cache估计不止

1 Like

草,你这个绝对有上推荐榜的潜质,起个爆一点的标题,b 站 / 小红书 一发,star 不是框框的来

10 Likes

在找windows测试了,明天会补上windows构建

3 Likes

这个是真的有用!!

2 Likes

有点厉害支持~~

3 Likes

嘻嘻嘻 我也觉得 python就一坨 起码体积上他真的是一坨

3 Likes

太棒了,我也是给依赖折磨了一番,太感谢了

3 Likes

佬太强了

1 Like

感谢大佬分享 :tieba_087:

4 Likes

太强了啊!

3 Likes

支持大佬 :mahjong_red_dragon:

1 Like

虽然不懂, 但是觉得好强

强呀,大佬

1 Like

支持!就是感觉 国产替代 可能不对

1 Like