Nutanix將AI平台擴展至公有雲

混合多雲運算企業Nutanix近日擴展AI基礎設施平台，推出新的雲端原生解決方案Nutanix Enterprise AI(NAI)，可在任何Kubernetes平台、邊緣、核心資料中心，以及在AWS Elastic Kubernetes Service(EKS)、Azure Managed Kubernetes Service(AKS)和Google Kubernetes Engine(GKE)等公有雲服務上部署。

NAI提供統一的混合多雲操作模式

NAI提供了一套統一的混合多雲操作模式，以加速AI工作負載，使企業能夠在自行選擇的安全位置利用其模型和數據，同時提高投資回報率。透過利用NVIDIA NIM提升基礎模型的性能，Nutanix Enterprise AI幫助企業安全地部署、運行和擴展大型語言模型 (LLM) 的推理端點，以支持在數分鐘內部署生成式AI應用程式，取代數天或數周的冗長流程。

生成式 AI 本質上是一種混合工作負載，新應用程式通常在公有雲上建構；之後使用在在地的私有數據進行模型微調；而與業務邏輯最緊密關聯的推理部署，可能位於邊緣、在地或公有雲。這種分散、混合式的生成式AI工作流程可能會為企業帶來複雜度、資料私隱、安全性和成本方面的挑戰。

Nutanix Enterprise AI提供了一套統一的多雲操作模式，結合了NVIDIA NIM完善的推理微服務和來自Hugging Face的開放式基礎模型，能夠以簡單的方式安全地部署、擴展和運行 LLM。這使客戶能夠建立日常營運、具有彈性、安全性的企業級生成式AI基礎設施，以支持關鍵業務的應用程式在在地或AWS Elastic Kubernetes Service (EKS)、Azure Managed Kubernetes Service (AKS)和 Google Kubernetes Engine (GKE) 等公有雲上的運行。

此外，相較於根據難以預測的使用量或基於token的定價模式，Nutanix Enterprise AI以基礎設施資源為基準，提供公開透明的定價模式，這對於希望最大化生成式AI投資獲回報的客戶來說非常重要。 

Nutanix Enterprise AI是Nutanix GPT-in-a-Box 2.0的一部分。GPT-in-a-Box還包括 Nutanix雲端基礎架構、Nutanix Kubernetes平台和Nutanix統一儲存，並提供支持客戶配置和調整大小需求的服務，以進行在地的訓練和推論。對於希望在公有雲進行部署的客戶，Nutanix Enterprise AI可以部署在任何Kubernetes環境中，且運作與在地部署保持一致。

Nutanix產品管理資深副總裁Thomas Cornely表示：「透過Nutanix Enterprise AI，我們協助客戶以簡單且安全的方式在在地或公有雲上運行生成式AI應用程式。Nutanix Enterprise AI 可在任何Kubernetes平台上運行，讓客戶能夠使用成本公開的模型並選擇安全的位置，運行其AI應用程式。」

Nutanix Enterprise AI可以與NVIDIA全端AI平台一同部署，並通過了NVIDIA AI Enterprise 軟體平台驗證，其中包括NVIDIA NIM，這是一組易於使用的微服務，旨在安全可靠地部署高性能AI模型推理。Nutanix-GPT-in-a-Box也是通過NVIDIA認證的系統，確保了性能的可靠性。 

NVIDIA企業AI副總裁Justin Boitano表示：「生成式AI工作負載本質上具有混合特性，訓練、個人化和推論過程均在公有雲、本地系統和邊緣位置上進行。將NVIDIA NIM整合至Nutanix Enterprise AI有助提供一致的多雲模式及安全的API，讓客戶能在不同環境中部署AI，同時確保關鍵業務應用程式 所需的高效能和安全性。」

Nutanix Enterprise AI的功能和應用場景

Nutanix Enterprise AI可以幫助客戶：

• 解決AI技術人才短缺問題：簡易性、不同化的選擇及內置功能讓IT管理人員能輕鬆管理AI，協助數據科學家和開發人員利用最新的模型和NVIDIA加速運算，促進AI開發。
• 消除障礙，建立AI就緒平台：不少希望採用生成式AI的企業，在建立適合支援AI工作負載平台時都面臨挑戰，其中包括確保在地基礎架構與多個公有雲保持一致。Nutanix Enterprise AI透過簡單的UI支援工作流程解決這個問題，協助客戶在短時間内部署和測試大型語言模型(LLM)的推理端點。平台支援能在任何環境運行的NVIDIA NIM微服務，為客戶提供選擇，確保模型在雲端及本地環境中均可發揮最佳表現。該平台亦支持 Hugging Face及其他模型標準。此外，與Nutanix Kubernetes Platform的原生整合能確保與Nutanix雲端平台保持一致，讓客戶能選擇在任何Kubernetes執行環境上運行的選項，包括具備NVIDIA加速運算的AWS EKS、Azure AKS或Google Cloud GKE。
• 減低數據私隱和安全風險：Nutanix Enterprise AI讓客戶能自行控制運算資源上的運行模型和數據，有助減低私隱和安全風險。此外，Nutanix Enterprise AI還提供一目了然的儀表板予客戶進行疑難排解、可觀測性和資源運用管理，並具備快捷且安全的角色型存取控制(RBAC)，確保LLM的存取控制明確可控。對於需要鞏固安全的企業而言，他們亦能在隔離(air-gapped)或黑暗站點(dark-site)環境中部署。
• 為生成式AI工作負載提供企業級基礎架構：在Nutanix Cloud Platform運行關鍵業務應用程式的客戶現在可以將同樣高靭性、Day 2營運和安全應用於生成式AI工作負載，享受企業級基礎架構的體驗。

Nutanix Enterprise AI的主要客戶應用場景包括：通過分析客戶反饋和文件以生成式AI改善客戶體驗；利用智能助手和智慧文件處理以加快生成代碼和內容；在特定領域的數據上微調模型以加快生成代碼和內容；鞏固數據安全，包括利用AI模型進行詐騙檢測、威脅偵測、增強警報及自動生成政策；並透過在私人數據上微調模型以改善數據分析。

在本地、邊緣和公有雲上運行的Nutanix Enterprise AI以及Nutanix GPT-in-a-Box 2.0現已開放予客戶使用。