News

微軟自研晶片Azure Maia 加快生成式AI應用

  •  
  •  
  •  

隨著2023年進入尾聲,各行各業幾乎都正在經歷一場AI轉型浪潮。微軟CEO Satya Nadella在Microsoft Ignite大會上宣布推出微軟自研晶片Azure Maia,該AI加速晶片專用於運行於雲端的大型語言模型之訓練及推理。這正式確立了微軟加速向AI轉型之路。

Microsoft Ignite展示正在研發的領先科技,協助客戶、合作夥伴和開發人員展現Microsoft科技的價值,並重塑工作模式。

AI 已逐漸呈現改變工作模式的潛力,以Microsoft最新的《工作趨勢指數》爲例。八個月前,Microsoft推出Copilot for Microsoft 365,減少枯燥乏味的工作並提升生產力,讓用家得以專注於只能由人類處理的工作。Microsoft透過結合調查和研究結果,了解 Copilot能否及如何改變工作模式,結果得出Copilot將顯著提高生產力:

  • 70%的Copilot用家表示工作效率提升,68%表示工作質素得到改善;另外有68%表示Copilot幫助啟發創意。
  • 整體而言,用家進行如搜尋、撰寫、總結等特定工作的速度提升了29%
  • 用家以較平常快近四倍的時間趕上錯過的會議進度。
  • 64%的用家表示Copilot助他們減少處理郵件的時間。
  • 87%的用家表示Copilot讓他們更易開始撰寫文件初稿。
  • 75%的用家表示Copilot能節省搜尋所需文件的時間。
  • 77%的用家表示,開始使用Copilot後便不想放棄。

在大會上,Microsoft宣佈近100項具前瞻性的AI策略,涵蓋應用、生產力至安全性。

八個月前,Microsoft推出Copilot for Microsoft 365,減少枯燥乏味的工作並提升生產力。

重新構思雲端基礎設施

Microsoft與OpenAI合作,將ChatGPT功能整合到搜尋、協作、工作和學習等工具當中。隨著AI進一步發展,Microsoft正在重塑雲端基礎設施,以優化所有層面的硬件和軟件。

Ignite大會上,Microsoft公佈數據中心的創新,包括行業合作夥伴最新研發的AI矽晶片和Microsoft設計的兩款新晶片。

  • Microsoft Azure Maia是一款AI加速晶片,專為在雲端運行訓練和推論的AI工作負載而設計,適用於OpenAI模型、Bing、GitHub Copilot和ChatGPT等AI工作。
  • Microsoft Azure Cobalt是一款基於ARM架構的雲端原生晶片,其性能經過最佳化,可提高一般能源和成本效益。
  • 此外,Azure Boost將全面上市,這是一個能透過將儲存和聯網工作轉移到特設的硬件和軟件系統,從而提高儲存和網絡的速度。
微軟CEO Satya Nadella宣布推出微軟自研晶片 Azure Maia,專為運行雲端大型語言模型之訓練及推理。

在訂製化矽晶片之外,Microsoft正在加強與矽晶片供應商的合作關係,爲客戶提供基礎設施選項。

  • 在Azure上增設透過AMD MI300X加速的虛擬機。ND MI300虛擬機為加快處理AI工作而設,以實現大範圍的AI模型訓練和推理生成,並將採用AMD最新的GPU AMD Instinct MI300X。
  • 預覽全新為NVIDIA H100 Tensor Core GPUs而設的NC H100 v5虛擬機系列,為中端AI訓練和生成式AI推理提高性能、可靠性和效率。我們同時宣佈ND H200 v5虛擬機系列的計劃,一款採用NVIDIA H200 Tensor Core GPU的AI優化虛擬機。

  •  
  •  
  •  

benny

Benny Yeung ~ 企業IT傳媒人,經常四周穿梭科技巨企及論壇,熱愛探討新商機。性格貪玩,但喜歡閱讀沉悶的企業賺蝕數字,最重視辦事效率。