谷歌 Gemma 大模型开源了!附加部署方式

谷歌 Gemma 大模型开源了!
下载安装ollama 客户端: Download Ollama on macOS

普通7B版 安装指令:(适合8G显存)
ollama run gemma:7b

如果你是第一次部署,它会自动下载!
7B的全量版本:(需要16G左右的显存)
ollama run gemma:7b-instruct-fp16

2B轻量版:(适合CPU会低配电脑安装)
ollama run gemma:2b

4 个赞

都是土豪,动不动就是本地部署大模型

1 个赞

你这Gemma写的详细,我当时水的一笔带过了。

From #develop:ai to #share