请教关于ollama pull 降速的问题

我在ubuntu上安装了ollama, 全局开启了sock5代理(export ALL_PROXY=socks5://127.0.0.1:1080), 在使用ollama pull下载模型时,一开始的速度非常快,可以达到5MB/s以上,但是越往后速度越慢,直到降低到几十KB/s。目前查到的解决办法都是中断后重新ollama pull, 但是我想测试多个模型,不断中断重下比较麻烦,佬们有没有更好的解决方案?是不是我的代理配置有问题?

[解决方案]: 尝试很多方案后,发现设置HTTPS_PROXY但是不设置HTTP_PROXY后,重启ollama服务,再ollama pull model的速度直接起飞,能达到20MB/s。代理的设置方法在官方的FAQ里面写了,但是之前没仔细看。附FAQ相关内容:
github/ollama How do I use Ollama behind a proxy?

感觉如果是梯子可能检测下载限速了吧? 换个节点看看

我也是一样的问题,今天还碰到下载一半莫名其妙进度倒退

中止后重新pull就行
ollama下模型会断点续传

没有部署过。。。 :sweat_drops:

这个方法我看到了,但是过十几分钟就中断重新pull感觉很麻烦

我现在还遇到了这个错误

ollama pull qwen2.5-coder:7b
pulling manifest 
Error: pull model manifest: 500: {"errors":[{"code":"INTERNAL_ERROR","message":"internal error"}]}

ollama直连确实很慢
建议直接梯子开TUN模式后在pull

1 Like

是我的代理设置不对,正确设置方法见正文

谢谢佬,解决了我的大问题。

我在学校直连pull有100MB/s

此话题已在最后回复的 30 天后被自动关闭。不再允许新回复。