《趨勢名人堂》AI 愛迪生時刻來臨：微軟全球副總裁 Rani Borkar 和 Eric Boyd 談半導體與 AI
當今 AI 時代被認為是自個人電腦和手機出現以來最重要的科技時刻，世界各地的人們都在積極討論著大型語言模型所帶來的優勢，各行各業也都渴望能透過生成式 AI 改善客戶體驗並提高生產力。如同電力是現代生活的基礎，AI 技術自 1950 年代以來發展越趨普及，將扮演如同電力一樣的角色，現在正是 AI 的愛迪生時刻。 微軟也致力於以負責任且可靠的方式提供基礎設施和工具，來發揮 AI 巨大的潛力。半導體產業在此次科技風暴中更是扮演關鍵角色，要在半導體構建模塊上發展 AI，需要創造力、協作和創新，更涵蓋供應鏈營運、電源管理和電子設計自動化等多個面向。 微軟雲端平台 Azure 雲端硬體與基礎建設全球副總裁 Rani Borkar 與微軟 AI Platform 全球副總裁 Eric Boyd 在 10 月下旬受台灣半導體協會邀請來台發表專題演說，分享微軟在 AI 領域的策略與展望，AI 從晶片、供應鏈到整體生態系的發展，以及微軟如何確保AI被負責任的使用。 半導體產業在 AI 時代需發展的夥伴關係，方能應對超級運算革命的到來 Rani Borkar 首先談到半導體產業建立 AI 基礎設施的關鍵客戶價值，然而隨著 GPU 成本不斷上升，性能和成本的優化還是關鍵，半導體產業必須在模型優化、資料科學到矽晶和架構等各個階段進行創新協作、移轉性能和成本曲線、以及客戶優勢。Rani 也詳細說明了模型的規模如何不斷增長，連帶影響晶片的運算需求也不斷成長，以及產業需要應對的每項挑戰。 以資料中心如何應對未來挑戰為例，Rani 強調現行的空氣冷卻技術、不足以滿足未來需求，業界已逐漸轉向更高效的液態冷卻解決方案。為了迎接未來 AI 基礎設施對高密度和高能量的需求，資料中心需要對電力、冷卻和可用性進行全面優化。微軟也希望與產業合作創建平台，帶動經濟價值，增強世界的AI創新能力。 展望未來，Rani 認為 AI 帶來軟體和硬體的顛覆性創新，是半導體產業大顯神通的機會。相關基礎設施需要協同設計（co-design）和協同優化（co-optimization），才能滿足 AI 系統的高功耗需求。 AI 模型朝向參數擴大、多模態的趨勢發展 Eric […]
當今 AI 時代被認為是自個人電腦和手機出現以來最重要的科技時刻，世界各地的人們都在積極討論著大型語言模型所帶來的優勢，各行各業也都渴望能透過生成式 AI 改善客戶體驗並提高生產力。如同電力是現代生活的基礎，AI 技術自 1950 年代以來發展越趨普及，將扮演如同電力一樣的角色，現在正是 AI 的愛迪生時刻。 微軟也致力於以負責任且可靠的方式提供基礎設施和工具，來發揮 AI 巨大的潛力。半導體產業在此次科技風暴中更是扮演關鍵角色，要在半導體構建模塊上發展 AI，需要創造力、協作和創新，更涵蓋供應鏈營運、電源管理和電子設計自動化等多個面向。 微軟雲端平台 Azure 雲端硬體與基礎建設全球副總裁 Rani Borkar 與微軟 AI Platform 全球副總裁 Eric Boyd 在 10 月下旬受台灣半導體協會邀請來台發表專題演說，分享微軟在 AI 領域的策略與展望，AI 從晶片、供應鏈到整體生態系的發展，以及微軟如何確保AI被負責任的使用。 半導體產業在 AI 時代需發展的夥伴關係，方能應對超級運算革命的到來 Rani Borkar 首先談到半導體產業建立 AI 基礎設施的關鍵客戶價值，然而隨著 GPU 成本不斷上升，性能和成本的優化還是關鍵，半導體產業必須在模型優化、資料科學到矽晶和架構等各個階段進行創新協作、移轉性能和成本曲線、以及客戶優勢。Rani 也詳細說明了模型的規模如何不斷增長，連帶影響晶片的運算需求也不斷成長，以及產業需要應對的每項挑戰。 以資料中心如何應對未來挑戰為例，Rani 強調現行的空氣冷卻技術、不足以滿足未來需求，業界已逐漸轉向更高效的液態冷卻解決方案。為了迎接未來 AI 基礎設施對高密度和高能量的需求，資料中心需要對電力、冷卻和可用性進行全面優化。微軟也希望與產業合作創建平台，帶動經濟價值，增強世界的AI創新能力。 展望未來，Rani 認為 AI 帶來軟體和硬體的顛覆性創新，是半導體產業大顯神通的機會。相關基礎設施需要協同設計（co-design）和協同優化（co-optimization），才能滿足 AI 系統的高功耗需求。 AI 模型朝向參數擴大、多模態的趨勢發展 Eric […]
李芷晴
https://tszching.uk
