《趨勢名人堂》 AI 的愛迪生時刻已經來臨:微軟全球副總裁 Rani Borkar 和 Eric Boyd 暢談半導體產業在 AI 時代的夥伴關係

當今 AI 時代被認為是自個人電腦和手機出現以來最重要的科技時刻,世界各地的人們都在積極討論著大型語言模型所帶來的優勢,各行各業也都渴望能透過生成式 AI 改善客戶體驗並提高生產力。如同電力是現代生活的基礎,AI 技術自 1950 年代以來發展越趨普及,將扮演如同電力一樣的角色,現在正是 AI 的愛迪生時刻。   微軟也致力於以負責任且可靠的方式提供基礎設施和工具,來發揮 AI 巨大的潛力。半導體產業在此次科技風暴中更是扮演關鍵角色,要在半導體構建模塊上發展 AI,需要創造力、協作和創新,更涵蓋供應鏈營運、電源管理和電子設計自動化等多個面向。   微軟雲端平台 Azure 雲端硬體與基礎建設全球副總裁 Rani Borkar 與微軟 AI Platform 全球副總裁 Eric Boyd 在 10 月下旬受台灣半導體協會邀請來台發表專題演說,分享微軟在 AI 領域的策略與展望,AI 從晶片、供應鏈到整體生態系的發展,以及微軟如何確保AI被負責任的使用。   半導體產業在 AI 時代需發展的夥伴關係,方能應對超級運算革命的到來  Rani Borkar 首先談到半導體產業建立 AI 基礎設施的關鍵客戶價值,然而隨著 GPU 成本不斷上升,性能和成本的優化還是關鍵,半導體產業必須在模型優化、資料科學到矽晶和架構等各個階段進行創新協作、移轉性能和成本曲線、以及客戶優勢。Rani 也詳細說明了模型的規模如何不斷增長,連帶影響晶片的運算需求也不斷成長,以及產業需要應對的每項挑戰。  以資料中心如何應對未來挑戰為例,Rani 強調現行的空氣冷卻技術、不足以滿足未來需求,業界已逐漸轉向更高效的液態冷卻解決方案。為了迎接未來 AI 基礎設施對高密度和高能量的需求,資料中心需要對電力、冷卻和可用性進行全面優化。微軟也希望與產業合作創建平台,帶動經濟價值,增強世界的AI創新能力。   展望未來,Rani 認為 AI 帶來軟體和硬體的顛覆性創新,是半導體產業大顯神通的機會。相關基礎設施需要協同設計(co-design)和協同優化(co-optimization),才能滿足 AI 系統的高功耗需求。   AI 模型朝向參數擴大、多模態的趨勢發展  Eric […]

Nov 13, 2023 - 13:00
 0
《趨勢名人堂》 AI 的愛迪生時刻已經來臨:微軟全球副總裁 Rani Borkar 和 Eric Boyd 暢談半導體產業在 AI 時代的夥伴關係
當今 AI 時代被認為是自個人電腦和手機出現以來最重要的科技時刻,世界各地的人們都在積極討論著大型語言模型所帶來的優勢,各行各業也都渴望能透過生成式 AI 改善客戶體驗並提高生產力。如同電力是現代生活的基礎,AI 技術自 1950 年代以來發展越趨普及,將扮演如同電力一樣的角色,現在正是 AI 的愛迪生時刻。   微軟也致力於以負責任且可靠的方式提供基礎設施和工具,來發揮 AI 巨大的潛力。半導體產業在此次科技風暴中更是扮演關鍵角色,要在半導體構建模塊上發展 AI,需要創造力、協作和創新,更涵蓋供應鏈營運、電源管理和電子設計自動化等多個面向。   微軟雲端平台 Azure 雲端硬體與基礎建設全球副總裁 Rani Borkar 與微軟 AI Platform 全球副總裁 Eric Boyd 在 10 月下旬受台灣半導體協會邀請來台發表專題演說,分享微軟在 AI 領域的策略與展望,AI 從晶片、供應鏈到整體生態系的發展,以及微軟如何確保AI被負責任的使用。   半導體產業在 AI 時代需發展的夥伴關係,方能應對超級運算革命的到來  Rani Borkar 首先談到半導體產業建立 AI 基礎設施的關鍵客戶價值,然而隨著 GPU 成本不斷上升,性能和成本的優化還是關鍵,半導體產業必須在模型優化、資料科學到矽晶和架構等各個階段進行創新協作、移轉性能和成本曲線、以及客戶優勢。Rani 也詳細說明了模型的規模如何不斷增長,連帶影響晶片的運算需求也不斷成長,以及產業需要應對的每項挑戰。  以資料中心如何應對未來挑戰為例,Rani 強調現行的空氣冷卻技術、不足以滿足未來需求,業界已逐漸轉向更高效的液態冷卻解決方案。為了迎接未來 AI 基礎設施對高密度和高能量的需求,資料中心需要對電力、冷卻和可用性進行全面優化。微軟也希望與產業合作創建平台,帶動經濟價值,增強世界的AI創新能力。   展望未來,Rani 認為 AI 帶來軟體和硬體的顛覆性創新,是半導體產業大顯神通的機會。相關基礎設施需要協同設計(co-design)和協同優化(co-optimization),才能滿足 AI 系統的高功耗需求。   AI 模型朝向參數擴大、多模態的趨勢發展  Eric […]

like

dislike

love

funny

angry

sad

wow

李芷晴 https://tszching.uk