AMD MI300X这次成了!大量NVIDIA用户投奔而来

英伟达AI GPU风头无两,公司市值全球第三,黄仁勋甚至声称对手免费也无法击败自己,但事实上,AMD MI300系列这一代还是可圈可点的,也吸引了大量用户。 TensorWave对82名高级工程师、AI专家进行的独立调查显示,大约50%的受访者表示对AMD MI300X GPU充满信心,原因是相比英伟达H100系列不但性价比更高,而且供货充足,不会因为缺货而加价。 事实上,TensorWave自己也采购了AMD MI300X。 AMD Instinct系列产品其实已经发展了很多代,但无论性能还是市场接受度都远逊于对手。 这一代的MI300X实现了性能飞跃,相比H100内存容量多2.4倍、带宽高1.6倍、FP8、FP16浮点性能都高1.3倍,FlashAttention 2、Llama2(700亿参数) 1v1对比测试领先20%,Bloom(1760亿参数)、Llama2(700亿参数) 8v8测试领先60%、40%。 AMD还打造了MI300A,首次在数据中心同时集成了CPU、GPU,但目前尚未铺开。 AMD苏姿丰此前预测,AMD AI芯片2024年的收入将达到35亿美元,大大高于此前预计的20亿美元。 当然,AMD在开发支持、生态建设方面还存在较大的差距,仍需努力追赶。

Mar 13, 2024 - 03:00
 0  11
AMD MI300X这次成了!大量NVIDIA用户投奔而来

英伟达AI GPU风头无两,公司市值全球第三,黄仁勋甚至声称对手免费也无法击败自己,但事实上,AMD MI300系列这一代还是可圈可点的,也吸引了大量用户。

TensorWave对82名高级工程师、AI专家进行的独立调查显示,大约50%的受访者表示对AMD MI300X GPU充满信心,原因是相比英伟达H100系列不但性价比更高,而且供货充足,不会因为缺货而加价。

事实上,TensorWave自己也采购了AMD MI300X。

AMD MI300X这次成了!大量NVIDIA用户投奔而来

AMD Instinct系列产品其实已经发展了很多代,但无论性能还是市场接受度都远逊于对手。

这一代的MI300X实现了性能飞跃,相比H100内存容量多2.4倍、带宽高1.6倍、FP8、FP16浮点性能都高1.3倍,FlashAttention 2、Llama2(700亿参数) 1v1对比测试领先20%,Bloom(1760亿参数)、Llama2(700亿参数) 8v8测试领先60%、40%。

AMD还打造了MI300A,首次在数据中心同时集成了CPU、GPU,但目前尚未铺开。

AMD苏姿丰此前预测,AMD AI芯片2024年的收入将达到35亿美元,大大高于此前预计的20亿美元。

当然,AMD在开发支持、生态建设方面还存在较大的差距,仍需努力追赶。

AMD MI300X这次成了!大量NVIDIA用户投奔而来

like

dislike

love

funny

angry

sad

wow

李芷晴 https://tszching.uk