AWS推5項生成式AI新服務 加速企業創新
AWS推出五項生成式AI創新功能，讓各種規模的企業都可以建立新的AI應用程式，提高員工生產力並實現業務轉型。這五項創新功能包括：AWS全面託管服務Amazon Bedrock、Amazon Titan Embeddings模型正式可用、透過API提供完全託管Meta Llama 2模型、AI程式設計助手Amazon CodeWhisperer新功能預覽、生成式業務分析功能Amazon QuickSight預覽版。這些創新功能加強了AWS在生成式AI各層面為客戶提供的能力，可獲得企業級安全和私隱保護，並選擇最佳模型並進行模型客製。
AWS數據和機器學習全球副總裁Swami Sivasubramanian表示：「在過去的一年裡，海量的資訊爆炸、大規模彈性運算能力的普及，以及機器學習技術的進步點燃了人們對生成式AI的興趣，深刻改變了各行各業，並重塑了人們的工作方式。憑藉企業級的安全和私隱保護、領先的基礎模型選擇、數據為先的方法論，以及高效、具成本效益的基礎架構，AWS贏得了企業的信賴，並在技術棧的每一層使用生成式AI解決方案協助企業不斷創新。今天的發布是一個重要的里程碑，它提供生成式AI給予涵蓋初創企業至大型企業的每間企業、涵蓋開發工程師至數據分析師的每位員工。透過強大的創新，AWS為企業帶來了更強的安全性、更多的選擇和更出色的效能，同時協助企業與自身的數據戰略保持高度一致，進而充分釋放生成式 AI 的潛力。」
各行各業、不同規模的企業都渴望借助生成式AI來變革營運方式，重新思考解決複雜問題的方法，並創造全新的用戶體驗。儘管生成式 AI 的最新進展引起了廣泛關注，但很多企業仍未能參與到這一轉型過程中。它們一邊對使用生成式AI充滿渴望，一邊又對這些工具的安全性和私隱問題憂心忡忡。這些企業希望能夠測試多種基礎模型，從而找到最適合自己應用場景的模型。它們同時希望最大限度地利用已經擁有的數據，透過客製化模型來為最終用戶提供獨特的體驗。最後，企業需要工具將創新迅速推向市場，以及協助它們在全球範圍內部署生成式 AI 應用程式的基礎設施。
這正正是為何眾多企業正向AWS尋求生成式AI服務，這些企業包括adidas、Alida、BMW、Genesys、Glide、GoDaddy、Intuit、律商聯訊（LexisNexis Legal & Professional）、孤獨星球（Lonely Planet）、默克、國民西敏、Perplexity AI、Persistent、Quext、RareJob Technologies、Rocket Mortgage、SnapLogic、株式會社竹中工務店、Traeger Grills、美巡賽、Verint、Verisk和WPS等。
Amazon Bedrock正式可用
Amazon Bedrock為一項完全託管的服務，提供來自眾多領先AI公司（包括AI21 Labs、Anthropic、Cohere、Meta、Stability AI和亞馬遜）的高效能基礎模型，以及企業建立生成式 AI 應用程式所需的一系列功能，能在實現簡化開發的同時確保私隱性和安全性。基礎模型具有良好的適用性，可為資料搜索、內容創作及藥物發現等眾多領域提供支援。
然而，很多希望利用生成式AI的企業仍然面對一些問題需要解決。首先，它們需要簡單直觀的選取和存取高效能基礎模型，滿足其場景需求且表現優異；其次，客戶希望應用程式實現無縫集成，無需管理龐大的基礎設施集群或花費大量成本；最後，客戶希望借助基礎模型並結合自身數據來輕鬆建立差異化的應用程式，而這些客戶用於客製的數據無疑是非常寶貴的資產，具有知識產權，因此在使用過程中必須做到全面保護，在確保安全和私隱的同時，確保客戶對數據共用和使用方式擁有控制權。
借助 Amazon Bedrock 的完善功能，企業能更方便、輕鬆地嘗試多種領先的基礎模型，使用自己的專有數據客製模型。此外，Amazon Bedrock提供差異化能力，例如無需再代寫任何代碼即可建立的託管代理（AI agent），它可以執行複雜任務，如旅行預訂、處理保險索賠、策劃廣告活動和管理庫存等。由於Amazon Bedrock採用無伺服器（serverless）技術，客戶不必管理任何基礎設施，即可使用熟悉的 AWS 服務將生成式 AI 能力安全地集成和部署到應用程式中。
Amazon Bedrock在開發之初就考慮到安全性和私隱保護，協助客戶保護敏感資料。客戶可以使用Amazon PrivateLink，在Amazon Bedrock與虛擬私有網路（VPC）之間建立專門的安全連接，確保任何數據傳輸都不會暴露在公共網絡。對於存在高度監管需求的客戶，Amazon Bedrock 符合 HIPAA （《健康保險流通與責任法案》）要求，並且可以在 GDPR（歐盟《通用資料保護條例》）合規標準下使用，讓更多的客戶從生成式 AI 中獲益。
Amazon Titan Embedding和Llama 2擴大可選模型範圍
事實上，沒有任何一個單一模型可以適用於所有的應用場景。因此，為了發掘生成式AI的價值，企業往往需要使用多個模型，並根據自身要求尋找最適合企業的一個模型。為此，Amazon Bedrock讓客戶只需透過單一 API即能找到和測試由AI21 Labs、Anthropic、Cohere、Meta、Stability AI和亞馬遜提供的基礎模型。此外，AWS近日宣布Anthropic未來的所有基礎模型都將在Amazon Bedrock上可用，並為 AWS 客戶提供模型客製和微調等特殊功能的優先使用。即日起，Amazon Bedrock引入新的基礎模型，進一步擴闊其基礎模型的選擇：
· Amazon Titan Embeddings現正式可用：Amazon Titan基礎模型是由AWS在大型數據集上建立和預先訓練的一系列模型，可以支援各種應用場景。作為這些模型中第一個正式可用的模型，Amazon Titan Embeddings是一種大語言模型（LLM），它將文本轉換成被稱為嵌入向量（embeddings）的數值表示，以支持檢索增強生成（RAG）的應用場景。基礎模型雖然適用於多種任務，但卻只能根據從訓練資料和提示詞上下文中學到的資訊來回答問題。一旦這些回答需要利用高時效性的知識或專有資料時，其有效性就會受限。為了能透過擴展資料來改進基礎模型的回答，很多企業將目光轉向RAG——這一流行的模型客製技術能將基礎模型連接到可被引用的知識庫，從而改進回應效果。要開始使用RAG，客戶必須先使用一個嵌入模型，將資料轉換成嵌入向量，使基礎模型更容易理解資料之間的語義和關係。然而，建立嵌入模型需要大量的資料和資源，以及深厚的機器學習專業知識，因此很多客戶很難完成自行建立，也就無法實現RAG。Amazon Titan Embeddings使客戶能夠更簡單地啟用RAG，以便利用專有資料擴展各種基礎模型的能力。Amazon Titan Embeddings支援超過25種語言和多達8,192個Token的上下文長度，非常適合基於企業的應用場景處理單個單詞、短語或整個文檔。該模型可返回 1,536 個維度的輸出向量，確保高度準確性的同時還專為實現更低延遲和更優性價比進行了優化。
· Llama 2即將在未來幾周內推出：Amazon Bedrock是透過託管API提供Meta新一代大語言模型Llama 2的完全託管的生成式AI服務。Llama 2模型比之前的Llama模型具有顯著改進，包括使用了比原始訓練多40%的訓練資料，並具有更長的上下文長度（4,000個 Token），以處理更大的文檔。Amazon Bedrock提供的Llama 2模型已經過優化，可以在AWS基礎設施上提供快速回應，非常適合對話式應用場景。客戶可以建立由130億和700億個參數的Llama 2模型驅動的生成式AI應用程式，且無需設置和管理任何基礎設施。
使用私有代碼庫安全地客製CodeWhisperer代碼建議
Amazon CodeWhisperer是一款基於AI的程式設計助手，它透過對數十億行來自亞馬遜和公開可用的代碼進行訓練，提高開發人員的生產力。雖然開發人員在日常工作中頻繁使用CodeWhisperer，但有時他們需要將其企業內部私有代碼庫（例如內部API、代碼庫、套裝軟體和類）整合到應用程式中，而這些代碼都不屬於CodeWhisperer的訓練資料。內部代碼的使用也是一個難題，因為說明文檔有限，並且沒有開發人員可以求助的公共資源或論壇。
例如，要代寫一個用於從購物車中移除商品的函數，開發人員必須首先了解用於與應用程式交互的API、集合和其他內部代碼。以前，開發人員可能需要花費數小時來檢查以前代寫的內部代碼，從而找到所需資訊並理解其工作原理。即使找到了正確的資源，他們仍需仔細檢查代碼，以確保其符合公司代碼的最佳實踐，並且不會重複引用代碼中的任何缺陷或漏洞。
Amazon CodeWhisperer全新客製功能將釋放生成式AI程式設計的全部潛力，透過安全地利用客戶的內部代碼庫和資源提供客製化建議。這使得開發人員在各種任務中能夠更準確地獲得代碼建議，從而節省時間。首先，管理員需要從源 (例如GitLab或Amazon S3) 連接到他們的私有代碼儲存庫，並調度一個作業來建立自己的客製內容。在建立客製內容時， CodeWhisperer利用各種模型和上下文客製技術，學習客戶的代碼庫並改進即時代碼建議，從而使開發人員花更少的時間去尋找無差別的問題的正確答案，同時將更多時間投入到建立新的差異化體驗上。管理員可以在AWS控制台 (Amazon Console) 集中管理所有客製功能、查看評估指標、估算每個客製功能的效能，並有選擇地將它們部署給公司內特定的開發人員，以限制對敏感代碼的存取。
透過選擇最高品質的儲存庫，管理員可以確保CodeWhisperer提供的客製建議不包含已棄用的代碼，並滿足企業品質與安全標準。考慮到企業級安全和隱私，這項功能可以確保客製內容完全保密，而支援CodeWhisperer的底層基礎模型在訓練過程中不使用客製內容，能夠保護客戶寶貴的知識產權。該自訂功能將很快作為CodeWhisperer企業版的一部分在預覽中供客戶使用。此外，CodeWhisperer的自訂設置默認確保了安全性，無論客戶使用Amazon CodeWhisperer專業版或是企業版，在處理來自開發人員IDE的請求時，AWS 均不會儲存或記錄任何客戶內容。
全新生成式BI創作功能Amazon QuickSight
Amazon QuickSight是一個為雲端建立的統一BI服務，能夠建立互動式儀錶板、分頁報告以及嵌入式分析，同時具備使用QuickSight Q進行自然語言查詢的能力，因此企業的每位用戶都能以他們偏好的格式獲取所需的洞察。
一般情況下，業務分析師需要花費數小時使用BI工具來探索各種不同的數據來源，添加計算、建立和完善視覺化效果，然後將它們呈現在儀錶板中提供給業務利益相關者。要建立一個簡單的圖表，分析師首先必須找到正確的數據來源、識別數據欄位、設置篩檢程式，同時進行必要的個性化設置以實現良好的視覺化效果。
如果進行數據視覺化需要進行新的計算（例如年度銷售額），分析師還必須確定所需的參考資料，然後建立、驗證並將視覺效果添加到報告中。如果可以減少業務分析師手動建立和調整圖表和計算所花費的時間，讓他們將更多時間投入到高價值的任務中，企業也能從中獲益。
全新的生成式BI創作功能擴展了QuickSight Q的自然語言查詢功能，使其不僅能夠回答清晰表述的問題例如，「加州銷售排名前10的產品是甚麼？」，還能協助分析師從問題片段 (例如，「銷售排名前10的產品」) 快速建立可客製的視覺效果，透過提出後續問題來澄清查詢意圖，優化視覺效果，並完成複雜的計算。業務分析師只需描述想獲得的結果，QuickSight即可生成具有良好觀感的視覺物件。分析師僅需簡單操作就能將其輕鬆添加到儀錶板或報告中。
例如，分析師可以要求QuickSight Q為「2022年和2023年運動鞋銷售額的月度趨勢」建立視覺化內容，該服務會自動選擇合適的數據，並根據請求使用最合理的圖表格式（比如線形圖或橫條圖）繪製所需資訊。QuickSight Q還將提供預設的提示問題，協助分析師釐清在多個數據欄位與其匹配查詢時可能出現的歧義（比如圖表應包括運動鞋銷售額的美元總額還是銷售的單位個數）。
分析師獲得了最初的視覺化內容後，還可以使用自然語言添加複雜的計算，改變圖表類型，或優化視覺化效果。QuickSight Q中新的生成式BI創作功能使業務分析師能夠輕鬆快捷地建立良好的視覺效果，更快速地為大規模數據驅動型決策提供寶貴的數據依據。
各行各業利用AWS生成式AI服務增效率
adidas為全球最大的運動品牌之一。adidas企業架構副總裁Daniel Eichten表示，「我們很高興能參與Amazon Bedrock預覽版的試用，親身體驗這項服務。Amazon Bedrock 對我們的生成式AI工具建立大有裨益，Amazon Bedrock承擔了建立生成式 AI 應用的繁重基礎設施管理工作，使我們能夠專注於大語言模型專案的核心方面。我們已經使用 Amazon Bedrock開發了一款生成式AI解決方案，使adidas的廣大工程師只需透過單個對話介面，就能從知識庫中找到所需的各種資訊和答案，回答從入門到複雜的多種技術問題。」
默克為一家研發密集型生物製藥公司，130 多年來一直致力發現和研發創新藥物和疫苗，以拯救生命和改善健康。默克資料科學執行董事Suman Giri表示：「完整的製藥價值鏈上存在很多手動且耗時的流程，這些流程阻礙了更有價值的工作的開展，同時還不能有效利用數據改善員工、客戶和患者體驗。借助Amazon Bedrock，我們迅速建立了生成式 AI 功能，提高知識挖掘和市場研究等工作的效率。在我們的美國患者分析工作流程中，我們可以利用這些功能提供對患者治療的見解，提高生活品質，擴大商業影響力，同時填補數據共用方面的空白，為負責任的生成式 AI 打造數據治理生態系統。」
BMW為全球頂級汽車和電單車製造商。BMW數據工程和分析專家Christoph Albrecht表示：「BMW的區域專家致力優化整條供應鏈的庫存。他們經常收到董事會成員或供應鏈專家等利益相關者的請求，要求建立新的儀錶板視圖，以便他們分析最新趨勢。 QuickSight Q創作體驗能夠顯著節省時間，可以在無需參考的情況下建立計算、快速建立視覺效果，然後透過自然語言對視覺化呈現進行精確調整。區域專家的快速回饋給我們的業務用戶留下了深刻印象，從而讓他們可以更快地做出重要決策。」
