旧手机变废为宝|五分钟安装Ollama跑开源大模型

[F-droid]

在开始之前，请你先准备好一台旧Android手机以及特殊的网络环境。

1.安装Termux

2.更新软件包及依赖

pkg update && pkg upgrade

3.安装wget软件包

pkg install wget

4.下载并运行Ollama安装脚本

wget https://github.com/Dev-ing-ing/ollama-termux/releases/download/v1.0.0/ollama-installer.sh && bash ollama-installer.sh

5.添加环境变量(可选)

export OLLAMA_HOST=0.0.0.0

6.启动Ollama服务

ollama serve

7.新建会话并下载模型

ollama pull qwen2.5:3b

8.在终端与模型对话

ollama run qwen2.5:3b

9.通过聊天软件与模型对话

本地：http://127.0.0.1:11434/v1
局域网：http://192.168.1.2:11434/v1
公网：http://[2409:8a00:1:0:0:0:0:1a2b]:11434/v1

[yqyan (Grogu)]

能跑多大的啊，小模型中的小模型吧，意义不大啊

[Leo_Cai]

手机需要root吗

[F-droid]

不需要哦！

[Laxdal]

延迟大概多少呀？感觉速度可能有点慢吧

[yqyan (Grogu)]

@F-droid 估计跑 Qwen 2.5 3B 不如跑 SmallThinker-3B-preview 好玩

[F-droid]

很快的，几秒就开始吐字

[JayXuZ]

只能说真的折腾

我觉得二手卖了买API体验肯定比这个好几百倍吧

[1-debtor]

感谢分享

[vip62948264 (我裤衩子呢)]

安卓版本最低多少，我有个4

[F-droid]

不是所有的都能买API的

[F-droid]

某些东西是绝密的或者不可描述的

[JayXuZ]

要是一个公司本地大模型是用旧手机跑的，我现在就提桶跑路了

[F-droid]

公司的话直接买A100

[handsome (大帅哥)]

你的旧手机啥soc啊

[XiaoHuang (小黄)]

闲置的小米11这条火龙三条888我想想还算了吧

[XiaoHuang (小黄)]

我旧手机火龙三条8，大帅哥你害怕吗！

[handsome (大帅哥)]

不怕，我旧手机865

[XiaoHuang (小黄)]

888可烫手了

[handsome (大帅哥)]

865就像你的心一样冷