AWS與NVIDIA擴大合作！全球基建新增200萬顆NVIDIA GPU
Amazon Web Services (AWS) 與NVIDIA大幅擴展雙方合作，計畫在AWS的全球基礎設施中新增部署200萬顆 NVIDIA GPU，並在AI工廠、CPU、網絡、開放模型、數據處理和機器人技術等領域深化合作，助力客戶以空前規模加速AI開發。AWS首席執行官Matt Garman表示：「我們使AWS成為運行NVIDIA AI技術的最佳場所，從網絡、安全到部署，全面提升基礎設施的效能。」
此次合作擴展補充了AWS的自研晶片產品線，讓客戶可根據特定工作負載靈活選擇最佳算力方案，無論是選擇 NVIDIA GPU、Amazon Trainium晶片，還是兩者結合使用。
近二十年來，AWS與NVIDIA攜手為全球客戶提供前沿的AI能力。雙方合作在AWS上推出了全球首個雲端GPU加速實例，如今AWS為客戶提供最廣泛的NVIDIA GPU解決方案。
如今AI需求加速爆發，雙方將合作推向新高度。AI工作負載正以極快的速度擴展，從模型的訓練和部署，到數據的處理以及用於驅動智能應用。客戶正跨越Agentic AI、科學發現、企業自動化和機器人技術等領域，從試點階段邁向生產階段，他們需要能夠跟上這一步伐的基礎設施。
Matt Garman表示：「客戶希望能夠自由選擇最適合其AI工作負載的工具，並希望所有工具都能無縫協作。此次合作的深化將為前沿實驗室、企業和政府機構提供更多在AWS上建構和部署AI的方式。」
NVIDIA創始人暨首席執行官黃仁勳表示：「NVIDIA和AWS建構了AI時代最偉大的增長引擎之一，且需求正超出所有預期。16年來，我們共同在雲端擴展NVIDIA運算能力。現在我們將合作擴展到整個技術棧，包括GPU、CPU、網絡、開放模型和軟件，以只有雙方聯手才能實現的空前速度與規模，落地Agentic AI和物理AI。」
擴展AI運算容量
在2026年NVIDIA GTC大會上，AWS宣布計劃從2026年起增加超過100萬顆NVIDIA GPU。自那時起，需求已經超過了這些預期。
AWS現在計劃於2027至2028年間在其全球基礎設施 (包括AI工廠) 中新增部署200萬顆NVIDIA GPU。這些新增的GPU將為客戶的工作負載提供支援，涵蓋從Agentic AI和科學發現，到企業自動化和實體AI等各個方面。客戶已經開始從此次合作中受益，例如加快藥物研發速度和提高詐欺偵測效率。此外，AWS和NVIDIA還在先進網絡技術方面展開合作，以更高效地連接GPU，從而進行大規模AI訓練。
將NVIDIA Vera CPU引入AWS
AWS和NVIDIA正致力於將基於Vera CPU的基礎設施引入AWS，為同時需要高效能CPU算力與加速基礎設施的Agentic AI工作負載提供更多選擇。這將進一步豐富AI基礎設施的配置方案，並與AWS提供最廣泛運算選擇而非一刀切解決方案的理念保持一致。
Vera CPU專為Agentic AI和強化學習的後端CPU任務設計，包括程式碼執行、工具調用、沙盒運行、數據分析、數據管線和任務編排等。Vera既可作為加速系統的主控CPU，也可作為AI工廠工作負載的獨立CPU，保障GPU算力持續供給、Agent回應及時、訓練循環穩定運行。
Amazon Trainium晶片與NVLink Fusion連接
在2025年re:Invent大會上，AWS宣布其下一代Amazon Trainium晶片將支援NVIDIA NVLink Fusion高速晶片互連技術。Amazon旗下Annapurna Labs將與NVIDIA合作，採用其全新的客製化高頻寬記憶體（NVHBM）技術，並與記憶體供應商合作，使Amazon Trainium能夠使用速度更快、能效更高的記憶體。
結合NVHBM和NVLink Fusion，Annapurna Labs能夠利用NVIDIA的客製化記憶體技術和可擴展架構，以提高AI工作負載的效能和效率，同時將Amazon Trainium和GPU無縫整合到統一的機架級架構中。
雙方現有能力已開放客戶使用
上述全新合作承諾基於雙方已有的深度技術整合，而這些整合能力已為客戶創造實際價值：
- 安全性和可靠性：所有基於NVIDIA GPU和Amazon Trainium的Amazon EC2實例 (包括使用NVLink Fusion 的實例) 均基於Amazon Nitro System建構，並透過Elastic Fabric Adapter (EFA) 連接，從而幫助客戶確保大規模地保持安全性、可靠性和網絡效能。
- AWS 上的開放模型：NVIDIA的Nemotron系列開放模型可在Amazon Bedrock上作為全託管的無伺服器模型使用；客戶也可透過Amazon SageMaker平台，在自有基礎設施中完成該系列模型的部署與微調。
- 更快的數據處理：與基於CPU的配置相比，在Amazon EMR上使用NVIDIA cuDF進行GPU加速數據處理，Apache Spark工作負載的處理速度最高可提升3.7倍，性價比提升30%。在 Amazon OpenSearch Service 上進行GPU加速向量索引，索引速度最高可提升9 倍，而成本僅為四分之一。
- 機器人物理AI：Amazon Robotics正在整合NVIDIA的全堆疊物理AI平台（包括Jetson、Omniverse和Isaac），以透過模擬、合成數據生成和真實世界驗證，加速下一代倉儲自動化落地。
