671b， deepseek-r1 一会跑起来试试，是不是有佬友已经爽过了

搞七捻三
21

我以为真的有富可敌国的呢。。。。原来是看错了

22

多少? 你说多少显存? 96G显存?

1 个赞
23

应该是 H100

24

A40 *2一共96G啊 :bili_007:

25

这么俩显卡 你是在本地搭建了个服务器嘛

26

误解了:joy:

27

公司的闲置服务器，不知道用来干嘛 :bili_017:

1 个赞
28

很豪横，A40 * 2 都闲置

29

没有ai相关业务了，拿来玩玩 :bili_017:

1 个赞
30

跑千问和deepseek 对比试试，还可以，除非太专业的领域，普通翻译挺爽的，微调中

31

到时候给大家放出来玩玩

1 个赞
32

千问的 QwQ 吗？
不做推理，70B 的应该和 Llama 3.3 70B 差不多吧，毕竟基础模型就是 Llama 3.3 70B，虽然用 Deepseek R1 再训练了

33

支持！加油

35

一点没爽呢还

36

跑起来了

image
image3395×1050 357 KB

image
image1617×1939 306 KB

16 个赞
37

可以限制一下速度，放出来让佬友们玩玩了

39

潜龙出渊，佬友够硬:muscle:，这资源太强了，8 * A800 啊，这是不是L站最彪悍啊，我要打劫:rofl:

40

太强了！

41

这么多卡！！！

42

671B 是这样的:drooling_face: