Nvidia的B200推理很强(FP4), 但是训练需要高精度, FP32性能就是一般般的(2000 TFLOP/s), 对比一下google最新的tpu(4,614 TFLOP/s), 只有一半实力.
Nvidia的B200推理很强(FP4), 但是训练需要高精度, FP32性能就是一般般的(2000 TFLOP/s), 对比一下google最新的tpu(4,614 TFLOP/s), 只有一半实力.
![]()
谁人吃fp4啊,fp8训练好像都没有普及,宣传的基本都是稀疏的,稠密的得砍一刀来着
除了老黄,就只有谷歌的TPU了……
还有老黄的投资对象,groq和cerebra
不能拟人化
狠狠看 alphabet ![]()
没有卖不出去的产品,只有卖不出去的价格