Equinix協助Groq 低時延AI推論服務拓展亞太區

AI推論先驅企業Groq通過Equinix位於澳洲悉尼的International Business Exchange (IBX) 數據中心的部署，將其AI基礎設施拓展至亞太地區，為包括香港在內的區內企業及公共機構提供服務。Groq行政總裁兼創始人 Jonathan Ross表示：「當前的運算資源仍不足支持所有人構建AI，Groq選擇與Equinix攜手，由澳洲開始擴大服務範圍。」

Groq將與Equinix攜手，於悉尼建設一座4.5兆瓦規模，澳洲其中一個最大規模的高速AI推論基礎建設，其運算效能和營運成本比傳統GPU與超大規模雲端服務平台高達5倍。此外，透過Equinix Fabric軟件定義的互連服務，亞太地區的企業可實現安全、低時延及高速的連接，並無縫連接至GroqCloud處理AI負載，在全面掌握基礎設施的同時，滿足合規要求。

亞太區AI市場複合年增長24%

亞太地區對AI解決方案的需求及應用正持續攀升。IDC最新發布的《全球人工智能和生成式人工智能支出指南》指出，亞太地區在AI及生成式AI (GenAI) 的投資規模將於2023至2028年間錄得高達24.0%的複合年增長率 (CAGR)，並預測於2028年增至1,100億美元。

Groq亞太區總經理Scott Albin表示：「亞太區是Groq的核心增長市場，目前全球使用GroqCloud的開發者有超過一半來自於此地區。是次於Equinix悉尼數據中心的部署是我們進軍亞太區的第一步，我們務求於區內提供高效能、具成本效益的AI推論服務，從而為客戶提供安全、低時延的存取，同時保障私隱。我們致力與Equinix攜手打造推動亞太區AI創新與持續增長的基礎設施。」 

透過Equinix高效擴展AI應用

結合Groq領先的AI推論技術，以及Equinix遍佈全球的基礎設施及中立的互連方案，企業可以在高效擴展AI應用的同時，兼顧成本效益及運算速度。

• 大規模AI運算效能：Groq的LPU推論引擎經專屬編譯器優化，能於新一代開源大型語言模型 (LLM) 推論運算中實現卓越吞吐量及低時延表現。 
• 專為AI推論運算而設：LPU提供具規模化的即時運算速度、卓越成本效益及高能源效率。有別於GPU，LPU是專為AI推論及語言處理量身打造的引擎。 
• Equinix Fabric：Groq運用Equinix Fabric這一按需、軟件定義的互連服務，於全球37個國家、超過270個設施中，為企業提供安全可靠的連接，無縫連接雲端、合作夥伴及數碼生態系統。 
• 實現具擴展性的靈活創新：是次合作充分展現Equinix如何協助新一代AI企業於全球靈活拓展業務，而無需自建基礎設施。用戶可隨時透過GroqCloud利用Groq技術，而企業及合作夥伴更能按實際需求選擇雲端或在地AI運算中心進行部署。

Equinix亞太區總裁Cyrus Adaggra表示：「我們很高興能協助AI推論領域的先驅Groq，迅速於全球擴展其高效能的基礎設施。透過Equinix獨特的生態系統及廣泛的全球覆蓋，我們能為Groq的客戶提供連接樞紐，有效擴展企業AI工作負載。」