News

VMware Private AI強勢出擊 夥IBM與Intel攻市場

  •  
  •  
  •  

在早前舉行的VMware Explore Barcelona大會上,VMware公布多項Private AI最新發展,並締結IT大廠商如IBM、Intel、NVIDIA及Google等進軍AI市場。Private AI是平衡AI業務收益與企業實際私隱和合規需求的架構方案。VMware透過不斷發展的開放生態系統,為AI和非AI工作負載提供集中管理和營運的能力,以及共用急需GPU (圖像處理器) 資源的能力,從而節省成本。

Private AI獨特優勢 編碼生成IT自動化

自從在VMware Explore Las Vegas上發布VMware Private AI以來,客戶與合作夥伴對AI的策略及其價值均展現極大的興趣。大多數企業計劃將公共和私有AI服務堆疊結合,目前已經出現幾種用於企業數據創建、處理或使用環境附近進行AI運算的用例。常見的新興用例包括:

  • 編碼生成:透過SafeCoder和Hugging Face等解決方案提升開發人員生產力,同時有效控制及保護企業原始編碼的私隱。
  • 聯絡中心解決方案:縮短客戶支援部門的問題解決時間,同時保護私有內部檔案。
  • IT運營自動化:在保護管理和運營後設資料的同時,為內部 IT 流程提供更豐富的自動化功能。
  • 高級資料搜索:實現檔案搜索、匯總和內容創建的精簡化,同時保護企業獨有的智識產權及其與客戶和合作夥伴的獨特溝通方式。

與IBM Consulting和Kyndryl合作

VMware Private AI方案為合作夥伴創造許多獨特和增值機會。憑藉對Private AI基礎架構的重視,VMware為AI獨立軟件廠商 (ISV) 提供一個接觸客戶的差異化平台,同時又能避免與其核心業務進行直接競爭,因而產生極大的吸引力。系統集成商正在加快採用 VMware Cloud Foundation上的AI用例,以滿足客戶和常見用例的需求。在 VMware Explore Barcelona 上,VMware宣布兩家系統集成商合作夥伴 (IBM Consulting和Kyndryl) 與VMware共同加快Private AI 基礎架構服務的發展,支持企業透過 Private AI 快速實現價值。VMware的AI策略聚焦於差異化技術,簡單、低成本並提供更多選擇,支援企業投資通用AI 平台。平台會根據業務或行業需求進行改變,令企業能夠在開展業務的任何地點快速部署新服務。

與Intel合作 部署Private AI模型

VMware與Intel的合作長達數十年,而這一合作關係最近擴展到Private AI領域。VMware和Intel正在設計VMware Private AI參考架構,支援客戶透過Intel AI軟件套件、處理器和硬件加速器以及VMware Cloud Foundation,構建並部署Private AI模型,降低總擁有成本。

搭載Intel AI的VMware Private AI參考架構以VMware Cloud Foundation為基礎,包含以下部分:

  • Intel Max系列GPU :提供多達128顆 Xe-HPC 核,該全新基礎架構能夠專門用於要求最嚴格的 AI 工作負載。
  • 配備 Intel 高級矩陣擴展(Intel AMX)的第四代 Xeon  CPU:顯著提升嶄新性能,涵蓋多個框架、端到端數據科學工具以及廣泛的智能解決方案生態系統。
  • Intel AI軟件套件:打包端到端開源軟件和可選許可元件,加速構建多點擴展和部署AI。

在VMware Explore Barcelona上,VMware演示在CPU上運行的多種生成式AI服務,同時展示其驚人的準確性和性能,讓許多人重新思考如何利用CPU容量滿足其AI需求,尤其是在推理用例中。

與IBM watsonx合作

VMware與IBM合作支持企業於私有、本地環境以及混合雲端中使用IBM watsonx,以安全地進行訓練和微調其模型。該全棧架構的構建乃基於VMware Cloud Foundation和Red Hat OpenShift,將賦能企業部署watsonx AI功能,從而支援MLOps、數據管理和部署。此外,企業還能使用來自Hugging Face的IBM精選開源模型以及其他第三方模型和 IBM 訓練的基礎模型系列,為生成式AI用例提供支援。

VMware支持領導Unified Acceleration(UXL)Foundation

VMware與ARM、Fujitsu、Google Cloud、Imagination、Intel、Qualcomm和Samsung一同領導Unified Acceleration (UXL) Foundation。UXL Foundation是一個跨行業組織,致力透過提供開放標準的加速器程式以設計模型,簡化高性能、跨平台應用的開發。UXL Foundation以oneAPI規範為基礎,並使用SYCL等行業開放標準。該基金會將以公平、獨立的方式,為異質架構軟件的開發提供一種中立的方法。UXL 的目標與 VMware 數十年來在簡化軟硬件互通性方面的努力不謀而合。

數據服務領域合作

VMware 正在將其數據服務產品擴展至現有的多雲端Tanzu數據解決方案之外,如VMware Cloud Foundation中的Data Services Manager(DSM)等。擴展VMware的本地數據服務生態系統對於幫助企業更加靈活構建AI服務、進而滿足業務需求至關重要。截止目前為止,DSM已支援VMware Tanzu SQL、PostgresSQL和MySQL,並且正朝著管理VMware與合作夥伴數據服務的統一控制介面方向擴展。

VMware近期宣佈推出與DSM結合的全新合作服務,為企業的本地部署環境帶來新的靈活性。首先,VMware將與MinIO合作,將其高性能和彈性物件存儲加入VMware Cloud Foundation。此外,擴大與Google Cloud的合作,將AlloyDB Omni的卓越性能、可擴展性和成本效益帶入VMware Cloud Foundation。與標準版 PostgresSQL 相比,AlloyDB Omni 在 vSAN 上運行時,Google 的事務性工作負載性能提高2倍以上,分析性工作負載性能則提高100倍。 1

高性能資料庫和物件存儲是支援 AI/ML 工作負載的兩大關鍵數據服務,而新的合作關係將幫助企業進一步加快 Private AI 進程。

共同踏上AI之旅

VMware將繼續與NVIDIA密切合作。繼在VMware Explore Las Vegas上發佈與NVIDIA的聯合產品後,VMware將在未來幾個月內推出VMware Private AI Foundation with NVIDIA。一些客戶已經以設計合作夥伴的身份與VMware和NVIDIA合作,在企業環境中運行新產品,並探索該解決方案的未來。

在VMware Explore Barcelona上,VMware發佈帶有Private AI概念驗證的入門套裝。這些概念驗證與當下流行的用例保持一致,包括目前已發佈的Coding Assistant和Retrieval Augmented Generation(RAG)用例。


  •  
  •  
  •  

benny

Benny Yeung ~ 企業IT傳媒人,經常四周穿梭科技巨企及論壇,熱愛探討新商機。性格貪玩,但喜歡閱讀沉悶的企業賺蝕數字,最重視辦事效率。