OpenAI 对英伟达芯片的性能并不满意,正在寻找替代方案

Nvidia的B200推理很强(FP4), 但是训练需要高精度, FP32性能就是一般般的(2000 TFLOP/s), 对比一下google最新的tpu(4,614 TFLOP/s), 只有一半实力.

1 个赞

:distorted_face:
谁人吃fp4啊,fp8训练好像都没有普及,宣传的基本都是稀疏的,稠密的得砍一刀来着

3 个赞

除了老黄,就只有谷歌的TPU了……

并没有
TPU v7 BF16 只有 2307T 而已

2 个赞

还有老黄的投资对象,groq和cerebra

4 个赞

哇,更有意思了,单芯片


3 个赞

不能拟人化

1 个赞

狠狠看 alphabet :face_savoring_food:

3 个赞

没有卖不出去的产品,只有卖不出去的价格

1 个赞