电脑 / 经费爆炸指北

软件开发 机器学习
,
1
  • 主要写怎么搭 ChatGLM-3B。
  • 1L 留给始皇。
  • 仍有部分需要佬友请教 o.o
  • 我还得上传一个 14 GB 的东西。 :innocent:

为什么用这个标签

  1. 符合标题
  2. 我说 ChatGLM-3B 在 GitHub 开源算么
6 个赞
2

你需要的东西

  1. ≥ 8000+ 的经费
  2. 一台 x86_64 的 Windows 10+ 64 位电脑
  3. CPU 最好是 i5 / i7 的十 / 十一 / 十二代，多多益善。
  4. GPU 建议拿 NVIDIA 的 MX / GTX / RTX 系，最好显存超过 4 GB，不然只能拿 CPU 跑。多多益善。
  5. 别的？不知道，但是多多益善
  • 注: 用 Windows 是因为我这里跑 Windows 只能用懒人包，Linux 可以用更好的 Jittor 代替虽然只有 ChatGLM 而不是 ChatGLM3
2 个赞
3

cy

1 个赞
4

前排

1 个赞
5

插个眼

1 个赞
6

看不懂，占个位先

1 个赞
7

没显卡让了~

1 个赞
8

N卡大显存， :laughing:其他跳过

1 个赞
9

cy

1 个赞
10

蹲一个

1 个赞
11

顿一下

1 个赞
12

这个我试过，这么说吧，我的小笔笔跑一个回答用了半小时，当然了，我是商务本还是核显，当时GLM刚开源，我就看他1分钟才吐一个字 :rofl: 各位矿佬玩起来肯定不在话下

1 个赞
13

话说，glm 3b 比得上白嫖cloudflare的ai模型吗？

1 个赞
14

cloudflare的那个 我搭了不好用 可能是我的问题？

1 个赞
15

独显（NVIDIA MX 150+i7-10510U）表示比你慢，两分钟一个字（

1 个赞
16

第一步已经卡死了 有替换方案吗

1 个赞
17

第一步只是买电脑的钱（

  • 实在带不动且愿意折腾的就去 Github 看 JittorLLMs 吧，建议 Linux 跑这个
1 个赞
18

哈哈哈 不错了 要好好爱护你的电脑 不要让小孩干体力活呀

网上有云主机，我之前看的时候一个小时也没多少钱，有需要的可以试试

1 个赞
19

Google Colab 直接秒杀 虽然还得是 int4 模型，不然就是计图

1 个赞
20

我好像用过，之前有某位热佬用这个搞了个自动搭建SD服务，但是你用这个恐怕也不够用 :smirk: