中国工程院院士谈英伟达一卡难求：国产卡生态不好没人用
近日在“2023科技风云榜”年度盛典上，中国工程院院士、清华大学教授郑纬民发表了关于大模型训练算力系统演讲。 在演讲中郑纬民提到了英伟达GPU和国产AI芯片，其表示，英伟达硬件性能好编程生态好，大家都喜欢用，很多人都用这个。 但问题是人家现在不卖给中国了，买不到了，价钱从去年12月份以来涨了一倍、两倍，现在依然是一卡难求。 对于国产AI芯片，郑纬民院士表示，英伟达现在不卖给我们了，国产的卡就要重点来支持这件事，把国产的卡做好了，用起来跟英伟达卡用起来差不多，或者差一点也可以。 目前国产芯片已经做出来了一部分了，但是用户不喜欢用，主要原因还是国产卡的生态系统不好。 要改变系统相对不好的局面，就要做好十个软件：编程框架、程加速、通信库、算子库，AI编译器、编程语言、调度器、内存分配系统、容错系统、存储系统，把这些做好，大家就喜欢用了。 国产AI芯片只要达到国外芯片60%的性能，生态做好了用户也会满意；生态没做好，哪怕硬件性能是人家的120%，照样没人喜欢用。 最后郑纬民总结称，我们要大力开展基于国产系统的大模型基础设施的研究工作，要改变国产卡的生态系统不好的局面，做好软硬件协同，而且要把国产卡做好。
近日在“2023科技风云榜”年度盛典上，中国工程院院士、清华大学教授郑纬民发表了关于大模型训练算力系统演讲。
在演讲中郑纬民提到了英伟达GPU和国产AI芯片，其表示，英伟达硬件性能好编程生态好，大家都喜欢用，很多人都用这个。
但问题是人家现在不卖给中国了，买不到了，价钱从去年12月份以来涨了一倍、两倍，现在依然是一卡难求。
对于国产AI芯片，郑纬民院士表示，英伟达现在不卖给我们了，国产的卡就要重点来支持这件事，把国产的卡做好了，用起来跟英伟达卡用起来差不多，或者差一点也可以。
目前国产芯片已经做出来了一部分了，但是用户不喜欢用，主要原因还是国产卡的生态系统不好。
要改变系统相对不好的局面，就要做好十个软件：编程框架、程加速、通信库、算子库，AI编译器、编程语言、调度器、内存分配系统、容错系统、存储系统，把这些做好，大家就喜欢用了。
国产AI芯片只要达到国外芯片60%的性能，生态做好了用户也会满意；生态没做好，哪怕硬件性能是人家的120%，照样没人喜欢用。
最后郑纬民总结称，我们要大力开展基于国产系统的大模型基础设施的研究工作，要改变国产卡的生态系统不好的局面，做好软硬件协同，而且要把国产卡做好。
