AWS宣布推出七項生成式AI創新功能 降低生使用門檻
亞馬遜旗下公司Amazon Web Services近日在紐約峰會上宣布推出七項生成式AI新功能，包括Amazon Bedrock新增基礎模型供應商 Cohere 和全新基礎模型，以及全新代理 (Agents) 功能；Amazon EC2 P5實例正式可用，加速生成式AI和高性能計算應用；Amazon OpenSearch Serverless支援全新向量引擎；編程助手Amazon CodeWhisperer與Amazon Glue實現集成；Amazon QuickSight新增生成式BI功能；幫助企業提升數據質量的分析服務AWS Entity Resolution正式可用；協助提升醫療行業生產效率的智慧醫療新服務AWS HealthScribe等。
AWS是次發布的多項生成式AI新功能，進一步降低了生成式AI的使用門檻，讓無論是企業用戶還是開發人員都能從中受益。借助這些新功能，來自各行各業的企業都能更專注於核心業務，提高生產效率，充分釋放數據價值和生成式AI的潛力。
全託管基模助客戶靈活應用基礎模型
AWS宣布全面擴展其全託管基礎模型服務Amazon Bedrock，包括新增Cohere作為基礎模型供應商，加入Anthropic和Stability AI的最新基礎模型，並發布變革性的新功能Amazon Bedrock代理 (Agents) 。
Cohere致力於開發領先的企業AI平台和前沿基礎模型，其基礎模型可以更直觀地生成、檢索和匯總資訊。 Anthropic為一間關注AI安全的研究型公司，專注於構建可信、可解釋和可掌控的AI系統。Anthropic已經將其最新的語言模型Claude 2接入到Amazon Bedrock。Stability AI為一間社區驅動的開放式AI公司，提供可通過簡單文本指令創建文本、圖像、音頻、影片、代碼等的基礎模型。Stability AI將在Amazon Bedrock上發布其最新版本文生圖模型套件Stable Diffusion XL 1.0 (SDXL 1.0)。
Amazon Bedrock代理功能將協助開發人員輕鬆創建全託管的人工智能代理 (AI Agents)，並協助企業加速開發生成式AI應用程式，這些應用程式可以通過對公司系統進行API調用來管理和執行任務。Amazon Bedrock代理功能同時還可以擴展基礎模型以理解用戶請求，將複雜任務分拆為多個步驟、開展對話以收集更多資訊，並採取行動以滿足用戶請求。借助Amazon Bedrock代理功能，用戶可以為內部或外部客戶自動執行任務，如管理零售訂單或處理保險索賠。憑藉代理功能，電商的生成式AI應用程式不僅能回答簡單問題 (「如有藍色夾克嗎？」)，還能協助用戶完成複雜任務 (如更新訂單或管理交易)。
下一代GPU實例正式可用 滿足運行AI需求
AWS宣布Amazon Elastic Compute Cloud (Amazon EC2) P5實例正式可用。這是一款下一代GPU實例，可以滿足客戶在運行人工智能、機器學習和高性能計算工作負載時對高性能和高擴展性的需求。該實例由最新的英偉達H100 Tensor Core GPU提供支援，與上一代基於GPU的實例相比，訓練時間最多可縮短6倍(從數天縮短至數小時)。這一性能提升將協助客戶降低高達40%的培訓成本。
Amazon EC2 P5實例提供8個英偉達H100 Tensor Core GPU，具有640 GB高帶寬GPU內存，同時提供第三代AMD EPYC處理器、2TB系統內存和30 TB本地NVMe存儲。Amazon EC2 P5實例還提供3200 Gbps的聚合網絡帶寬並支援GPUDirect RDMA，從而能夠繞過CPU進行節點間通信，實現更低的延遲和高效的橫向擴展性能。
向量引擎助客戶整合數據
AWS宣布推出適用於Amazon OpenSearch Serverless的向量引擎。在正式可用後，該向量引擎將支援簡單的API調用，可用於儲存和查詢數十億個嵌入 (embeddings)。而未來所有AWS的數據庫都將具有向量功能，協助客戶簡化營運，方便整合數據。
嵌入應儲存在靠近來源數據的位置，一系列因素都將影響企業如何選擇最適合自己的選項，這些因素包括當前資料儲存位置、對數據庫技術的熟悉程度、向量維度的擴展、嵌入的數量和性能需求等。因此，AWS還提供以下選項滿足更高級的向量數據儲存需求：
- Amazon Aurora PostgreSQL相容版關係型數據庫，支援pgvector開源向量相似性搜索外掛程式。
- 分布式搜索和分析服務Amazon OpenSearch，帶有 k-NN (k 最近鄰) 外掛程式和適用於Amazon OpenSearch Serverless的向量引擎。
- 相容PostgreSQL的Amazon RDS (Amazon Relational Database Service) 關係型數據庫，支援pgvector外掛程式。
AI編程助手進一步提升開發效率
AWS宣布Amazon CodeWhisperer正式可用。這是一款AI編程助手，能透過使用底層基礎模型協助開發人員提高工作效率。它可以根據開發人員使用自然語言留下的註釋和 IDE (集成開發環境) 中的歷史代碼實時生成代碼建議。此外，AWS還發布了Amazon CodeWhisperer Jupyter擴展程式，為Jupyter用戶在Jupyter Lab和Amazon SageMaker Studio中的Python notebooks生成實時、單行或完整的函數代碼建議。
現在，AWS正式宣布Amazon Glue Studio notebooks支援Amazon CodeWhisperer，協助Amazon Glue用戶優化使用體驗、提高開發效率。通過Amazon Glue Studio notebooks，開發人員可以用自然語言 (英語) 編寫特定任務，例如「利用json檔中的內容創建一個Spark DataFrame」。基於此資訊，Amazon CodeWhisperer會直接在notebooks中推薦一個或多個可完成此任務的代碼片段。開發人員可以選擇「接受最推薦的建議」，「查看更多建議」或「繼續自己編寫代碼」。
Amazon QuickSight新增生成式BI功能
AWS宣布正將Amazon Bedrock提供的大語言模型能力與支援自然語言問答的Amazon QuickSight Q整合，以期在Amazon QuickSight中提供生成式BI功能。該功能很快將在Amazon QuickSight可用，協助企業輕鬆探索數據、發現並分享洞察。
借助Amazon QuickSight中新增的生成式BI功能，業務分析師能夠使用自然語言輕鬆執行日常任務，包括：
- 基於Amazon QuickSight Q全新的視覺創作體驗功能，在數秒鐘內創建數據可視化圖表；
- 使用自然語言微調和格式化圖表效果；
- 無須學習特定語法，通過自然語言即可創建計算任務。
針對使用儀錶板並需要與之進行交流的企業用戶，AWS發布Stories功能，協助企業用戶使用生成式BI的強大能力，通過自然語言提示來生成、定制和共用極具信息量的可視化圖表。
機器學習提供支援的分析服務
AWS宣布Amazon Entity Resolution正式可用。這是一項由機器學習提供支援的分析服務，可以協助企業輕鬆分析、匹配和關聯相關記錄，這些記錄可能儲存在應用程式、不同的數據獲取管道和數據儲存中。Amazon Entity Resolution利用基於規則和機器學習的技術自定義工作流程，並以此匯總消費者、業務和產品信息。業務分析師和開發人員可以通過內置的預配置工作流程快速提高數據準確性，或者通過自定義工作流程來滿足企業需求。借助Amazon Entity Resolution，企業可以更好地了解數據的關聯、匹配和鏈接情況，同時深入發掘客戶洞察、清晰捕捉供應鏈數據，從而改善營運能力、開展更多有效營銷、作出複雜金融投資決策。AWS宣布計劃增加兩個Amazon Entity Resolution的合作夥伴LiveRamp和TransUnion，同時增強與Unified ID 2.0開源框架的互通性。通過這些集成功能，客戶將能更輕鬆地翻譯或豐富自己的記錄，同時更好地保護數據並減少數據移動。
生成式AI協助構建醫療應用程式
AWS宣布推出Amazon HealthScribe，這是一項符合 HIPAA (《健康保險責任與保護法》) 要求的新服務，能夠幫助醫療軟件供應商構建臨床應用程式。這些應用程式使用文本識別和生成式AI技術生成臨床文檔，節省醫生時間。借助Amazon HealthScribe，醫療軟件供應商可以通過調用一個 API 自動創建可靠的記錄、提取關鍵資訊（例如醫學術語和藥物），並根據醫患對話創建摘要，然後將這些數據輸入到電子健康記錄 (EHR) 系統。 Amazon HealthScribe由Amazon Bedrock提供支援，使醫療軟件供應商能夠更快、更輕鬆地將生成式AI功能整合至其應用程式中。在普通醫學和骨科這兩個常見專科，醫療軟件供應商已經開始使用Amazon HealthScribe，它們不再需要管理底層機器學習基礎設施或訓練自己的醫療專屬大語言模型 (LLM)。