看到很多佬都在说llama,但是这个有什么用呢,查了一下就是开源的大模型,有什么好用的操作嘛
2 个赞
- 开源 → 可以本地部署自己随便玩
- 大参数版性能不差，支持 vision
- 很多厂商提供免费 llama api 使用
1 个赞
谢谢佬谢谢佬 懂啦
开源、支持私有部署，隐私性稍微好一些，部署在本地局域网内访问速度也比公开的快，但是运行最大参数的模型对设备配置有一定要求。
我有在干模型可以干嘛呢,不是很懂,自己部署配置又不能很高,效果肯定也没有大厂的好
服务器上搞了个13b的想玩玩,又不知道可以干嘛
微调一下，模拟女朋友。每天哄哄她
6
也可模拟成你自己，陪女朋友聊天
借助 ollama 可以在本地游玩各种开源大模型
在本地跑模型的另一个好处是隐私性，有些公司（比如我工作的公司）对内提供的代码补全服务就是基于开源大模型的，就是不想把代码泄露给商业大模型（当然商业大模型也很贵）
我的设备都跑不了ollama
提醒一下：llama的中文并不是很好 
6 个赞
有需要才安装，没有需要装这个纯属浪费资源了哈哈哈哈
3.1 开始对中文的支持性就挺好的了吧
我发现了，然后给卸了，占了十几个G的内存，没什么用
开源是为了技术平权 防止荒坂的出现