News

華為雲昇騰AI雲服務 無限算力供大灣區AI產業發展

  •  
  •  
  •  

近年人工智能 (AI) 在各行各業興起,加上香港政府視AI為推動數字經濟發展的關鍵,導致各界爭相發展AI。可是人工智能需要耗用數據中心內大量算力,算力供給短期內難以跟上AI急速發展,導致香港各界在AI發展上面臨困局。隨著AI應用在大灣區內進一步發展,令AI算力供不應求的情況更嚴峻,急需解決。

為何AI算力供應嚴重不足?由於AI伺服器的功率密度遠超通用伺服器,單機櫃的功耗是過去的6至8倍,並需要專用的液冷系統進行散熱,才能降低PUE (能效比)。且大模型訓練動輒需要千卡乃至萬卡,伺服器之間的互聯、時延、可靠性、運維極為挑戰。

大模型推動了新一輪人工智能的發展浪潮,同時也引發了全球算力需求的指數級增長。

另一方面,自2023年初以來,AI大模型不斷推陳出新,出現百家爭鳴的盛況。截至2023年7月,中國累計已經有130個大模型問世。截至2023年10月,中國10億參數規模以上的大模型廠商及高校院所共計254家。大模型推動了新一輪人工智能的發展浪潮,同時也引發了全球算力需求的指數級增長。數據顯示,過去10年AI算力需求翻了30萬倍,而未來10年AI算力將再增長500倍!

人工智能浪潮席捲全球,香港正充分利用自身國際定位、資本、技術及人才優,搶灘AI產業。由於本地AI算力供不應求,在216家香港本土AI領域的企業中,有31%企業使用位於內地的超算中心,另有26%企業使用海外超算中心,同時正不斷尋找新算力供應方案。

本地AI算力供不應求,各行各業正不斷尋找新算力供應方案。

為緩解AI算力不足,華為雲多年來打造堅實的算力基礎,為大模型產業發展提供源源不絕的充沛算力。特別是AI大模型訓練對算力需求呈指數級增長,華為雲昇騰AI雲服務正好滿足需求。華為雲在貴安、烏蘭察布、蕪湖3大AI雲算力中心及30多個邊緣算力中心,通過AI雲服務,企業無需自建或改造傳統數據中心,無需投資通用的AI技術、無需擔心運維和安全的壓力,即可隨取隨用澎湃AI算力和豐富的AI雲服務。

華為雲在貴安、烏蘭察布、蕪湖3大AI雲算力中心及30多個邊緣算力中心。
  • 澎湃算力觸手可及:一鍵接入貴安、烏蘭察布、蕪湖、香港等AI雲算力節點;
  • 即開即用:萬卡集群分鐘內開通,省去繁瑣的組網步驟;
  • 系統工程、性能提升:雲化架構,軟硬結合,系統性釋放集群性能,不僅能支撐超大規模的訓練任務,單位算力性價比更提升30%;
  • 靈活按需使用:支持公有雲/專屬雲/邊緣雲多種部署,基於ModelArts實現雲上雲下算力協同調度,算力可實現Serverless秒級彈性擴縮容,成本降低50%;

AI頂尖高級院校用華為雲近年來,香港多所高校加快推進人工智能研發,創辦了14個跨行業AI研究實驗室。自2018年起,港府已投入逾1,500億港元支持創科發展,2023-24年度預算案亦宣布撥款30億港元,加強前沿技術領域的基礎研究。此外,香港借助自身在AI領域的深厚研究基礎,從完善基礎設施、加快產業化、壯大人才庫等多方面加強與大灣區合作,落成河套地區的「港深創新及科技園」和深圳河北側毗鄰河套地區的「深方科創園區」組成的「深港科技創新合作區」,不斷完善AI及數據產業鏈。

據了解,華為與香港的各大高校進行了包括基礎研究在內的全面合作。目前香港已建立了14個跨行業的AI研究實驗室,並有三所大學進入U.S. News 2023全球AI頂尖高級院校前30名。在廣泛投資、企業實例與科研推動下,華為雲昇騰AI雲服務能面向各行業大模型訓練及AI應用需求,提供場景化解決方案:

LLM大模型訓練加速:大模型訓練對數據數量、質量等要求都很高,華為雲昇騰AI雲服務能夠提供典型場景的最佳配置,包括AI計算、網絡、存儲、通用計算等各方面以及最佳實踐,進而縮短硬件設定、精度對齊、性能驗證週期,交付效率提升100%。

LLM大模型推理調優:提供大模型推理調優最佳配置,包括百卡、千卡推理資源典型配置,對所需推理資源,運算元、編譯、資源等端到端的進行性能優化,降低應用層等待時延,千卡推理整體性能提升50%。業務遷移、模型優化專業服務:配合專業的遷移及優化專業服務,提供多種模型自動優化、轉換、精度分析等工具,大幅降低模型優化的時間和提升模型性能,降低遷移調優成本。

針對高等院校、AI應用開發商及企業應用,華為雲AI gallery提供基於昇騰雲適配並優化的70+開源大模型,企業可一鍵調用,快速開發,還可以提供與雲市場打通,實現資產變現。

昇騰AI雲服務AI Gallery百模千態專區已正式上線。

昇騰AI雲服務AI Gallery百模千態專區已正式上線,讓企業和開發者可以使用Maas的方式快速構建自己的大模型應用,在大模型時代快人一步。如欲了解更多及體驗昇騰AI雲服務,歡迎點擊下列連結。

https://www.huaweicloud.com/about/activity-ascendcloudservice.html?utm_medium=pr-huaweiyun&utm_campaign=pangu


  •  
  •  
  •  

benny

Benny Yeung ~ 企業IT傳媒人,經常四周穿梭科技巨企及論壇,熱愛探討新商機。性格貪玩,但喜歡閱讀沉悶的企業賺蝕數字,最重視辦事效率。