bigmiao
(bigmiao)
1
我在ubuntu上安装了ollama, 全局开启了sock5代理(export ALL_PROXY=socks5://127.0.0.1:1080), 在使用ollama pull下载模型时,一开始的速度非常快,可以达到5MB/s以上,但是越往后速度越慢,直到降低到几十KB/s。目前查到的解决办法都是中断后重新ollama pull, 但是我想测试多个模型,不断中断重下比较麻烦,佬们有没有更好的解决方案?是不是我的代理配置有问题?
[解决方案]: 尝试很多方案后,发现设置HTTPS_PROXY但是不设置HTTP_PROXY后,重启ollama服务,再ollama pull model的速度直接起飞,能达到20MB/s。代理的设置方法在官方的FAQ里面写了,但是之前没仔细看。附FAQ相关内容:
github/ollama How do I use Ollama behind a proxy?
bard
(bard)
2
感觉如果是梯子可能检测下载限速了吧? 换个节点看看
hanbin
3
我也是一样的问题,今天还碰到下载一半莫名其妙进度倒退
JayXuZ
(JayXuZ)
4
中止后重新pull就行
ollama下模型会断点续传
bigmiao
(bigmiao)
6
这个方法我看到了,但是过十几分钟就中断重新pull感觉很麻烦
bigmiao
(bigmiao)
7
我现在还遇到了这个错误
ollama pull qwen2.5-coder:7b
pulling manifest
Error: pull model manifest: 500: {"errors":[{"code":"INTERNAL_ERROR","message":"internal error"}]}
JayXuZ
(JayXuZ)
8
ollama直连确实很慢
建议直接梯子开TUN模式后在pull
1 Like
system
(system)
Closed
13
此话题已在最后回复的 30 天后被自动关闭。不再允许新回复。