如题，自己部署大模型有什么好处？现在不是有很多开源模型吗自己部署的话就不用担心token的消耗问题了，那么自己部署本地大模型和对比使用官方的有什么优劣吗
没有部署过，想了解一下
自己部署好处是隐私好，可以内网使用
坏处是需要好的设备
优点：
- 不用担心数据泄露
- 没有网络环境问题
缺点：
- 吃配置
- 大概率会慢
没部署过，mark一下
自己想咋用就咋用 
不用担心token花费和隐私还有限制 就是烧电费和吃设备 
要有一台流畅的设备，可以去XX APP（触发丝滑连招）
685B参数就别想了，自己部署就只能7/32这种
小公司私有化部署也上不了规模, 我理解的优点就是数据安全.
使用线上的存在使用你的数据去训练大模型，如果数据安全级别较高，那么就可以考虑自建
对CPU有要求还是显卡有要求呢，内存需要多大的
自己部署很灵活，hg上面有很多无监管模型，可以搞涩涩
主要是显卡和显存
能跑和能流畅的跑的差别很大
自己部署就是安全无审，但是设备要求高呀
数据隐私在企业环境下是很重要的。假设你需要接收某个项目,可以上传文件给大模型协助了解,这种情况是不可能传出外网的
吃配置和大概率会慢其实是一件事 因为吃配置才大概率会慢 因为慢的主因就是吃配置～
本地只能部署一些小模型 基本上本地部署很难超过100b及以上的模型 特别是个人用户 单位企业其实也不敢保证机器能跑上百b的模型～
我靠这么贵
想独立部署，可以考虑 qwen2.5 72b awq，四张2080ti 22g可以跑起来。预算一万多点搞定。
本地服务器和vps的区别呗