中国工程院院士谈英伟达一卡难求:国产卡生态不好没人用
近日在“2023科技风云榜”年度盛典上,中国工程院院士、清华大学教授郑纬民发表了关于大模型训练算力系统演讲。 在演讲中郑纬民提到了英伟达GPU和国产AI芯片,其表示,英伟达硬件性能好编程生态好,大家都喜欢用,很多人都用这个。 但问题是人家现在不卖给中国了,买不到了,价钱从去年12月份以来涨了一倍、两倍,现在依然是一卡难求。 对于国产AI芯片,郑纬民院士表示,英伟达现在不卖给我们了,国产的卡就要重点来支持这件事,把国产的卡做好了,用起来跟英伟达卡用起来差不多,或者差一点也可以。 目前国产芯片已经做出来了一部分了,但是用户不喜欢用,主要原因还是国产卡的生态系统不好。 要改变系统相对不好的局面,就要做好十个软件:编程框架、程加速、通信库、算子库,AI编译器、编程语言、调度器、内存分配系统、容错系统、存储系统,把这些做好,大家就喜欢用了。 国产AI芯片只要达到国外芯片60%的性能,生态做好了用户也会满意;生态没做好,哪怕硬件性能是人家的120%,照样没人喜欢用。 最后郑纬民总结称,我们要大力开展基于国产系统的大模型基础设施的研究工作,要改变国产卡的生态系统不好的局面,做好软硬件协同,而且要把国产卡做好。
近日在“2023科技风云榜”年度盛典上,中国工程院院士、清华大学教授郑纬民发表了关于大模型训练算力系统演讲。
在演讲中郑纬民提到了英伟达GPU和国产AI芯片,其表示,英伟达硬件性能好编程生态好,大家都喜欢用,很多人都用这个。
但问题是人家现在不卖给中国了,买不到了,价钱从去年12月份以来涨了一倍、两倍,现在依然是一卡难求。
对于国产AI芯片,郑纬民院士表示,英伟达现在不卖给我们了,国产的卡就要重点来支持这件事,把国产的卡做好了,用起来跟英伟达卡用起来差不多,或者差一点也可以。
目前国产芯片已经做出来了一部分了,但是用户不喜欢用,主要原因还是国产卡的生态系统不好。
要改变系统相对不好的局面,就要做好十个软件:编程框架、程加速、通信库、算子库,AI编译器、编程语言、调度器、内存分配系统、容错系统、存储系统,把这些做好,大家就喜欢用了。
国产AI芯片只要达到国外芯片60%的性能,生态做好了用户也会满意;生态没做好,哪怕硬件性能是人家的120%,照样没人喜欢用。
最后郑纬民总结称,我们要大力开展基于国产系统的大模型基础设施的研究工作,要改变国产卡的生态系统不好的局面,做好软硬件协同,而且要把国产卡做好。