如果說re:Invent第一天的重點是Amazon Nova，第二天的重點就是如何在模型之后進行訓練、推理，并應用落地。

這對應的就是Amazon SageMaker、Amazon Bedrock和Amazon Q。

亞馬遜云科技人工智能與數據副總裁Swami Sivasubramanian認為，現在我們正站在生成式AI的融合點上，這一進程雖然不總是清晰，但我們正被好奇心和解決客戶實際問題的渴望驅使。

亞馬遜云科技人工智能與數據副總裁Swami Sivasubramanian

SageMaker訓練功能加速

Amazon SageMaker已經有已經有數十萬名客戶在使用，它已經是世界上用于構建、訓練和部署ML模型的最受歡迎的服務。

在第一天的Keynote中，亞馬遜云科技首席執行官Matt Garman講述了下一代Amazon SageMaker，其將大數據處理、快速SQL分析、機器學習、模型開發以及生成式AI的關鍵能力集成于一個統一平臺中。

Amazon SageMaker進化的步伐不會放慢，尤其是訓練功能。

自去年以來，Amazon SageMaker發布的140多項新功能幫助客戶更快更高效構建模型。尤其是生成式AI出現，亞馬遜云科技知道客戶需要新工具和功能支持模型訓練和推理。

為減輕訓練過程的復雜負擔，亞馬遜云科技推出Amazon SageMaker HyperPod。其具備先進的彈性能力，可實現集群在全棧故障時的自動恢復，同時提供快速檢查點和主動計算資源管理功能，成為客戶訓練基礎模型的首選基礎設施。

Amazon SageMaker HyperPod flexible training plans靈活訓練計劃也是一個改變游戲規則的功能，簡化模型訓練計劃管理。其能夠快速創建訓練計劃自動預留容量，設置集群，創建模型訓練作業，為數據科學團隊節省數周訓練時間。

Amazon SageMaker HyperPod task governance 任務治理功能，通過自動化生成式AI任務的優先級排序和管理，幫助客戶最大化計算資源利用率，最多可降低40%的成本。

同時Amazon SageMaker合作伙伴AI應用支持功能，讓合作伙伴的AI應用程序都可以部署在Amazon SageMaker，將幫助客戶通過無縫、完全托管體驗加速模型開發生命周期，無需預配或管理基礎設施，數據永遠不會離開Amazon SageMaker開發環境，實現了安全性和隱私性。

Amazon Bedrock一站式生成式AI解決方案

推理可以讓基礎模型走出實驗室進入現實世界，改變行業，Amazon Bedrock就是為了幫助企業構建和擴展生成式AI應用程序。

現在Amazon Bedrock已經不僅僅是一個模型庫，更是一種構建和擴展生成式AI應用最簡單和最快速的方式。覆蓋選擇最佳的模型，優化成本、延遲和準確性，使用自有數據定制，確保安全性和負責任AI，構建和協調Agent五大能力。

在模型提供上，Amazon Bedrock將提供poolside、Luma AI的模型，同時將新增Stability AI的Stable Diffusion 3.5模型。

除了這些模型之外，Amazon Bedrock Marketplace還為用戶提供了訪問100多個來自領先提供商的100多個新興和專業基礎模型。用戶可以通過Amazon Bedrock的統一API輕松調用這些模型，并結合知識庫、智能防護和智能代理功能。

在成本、延遲和準確性上，Amazon Bedrock提示詞緩存功能，能夠降低延遲高達85%，成本降低高達90%。

Bedrock Intelligent Prompt Routing提示詞智能路由功能，動態的將請求路由到最有可能以最低成本和最佳響應的模型，成本節省高達30%。

根據自有數據定制上，發布了Amazon Kendra GenAI Index，可以為RAG和Amazon Bedrock提供托管檢索，支持對40多個企業數據源的連接器，簡化RAG對企業數據源的連接。

Amazon Bedrock Knowledge Bases能夠支持結構化數據檢索支持，簡化RAG對各類結構化數據的使用。Amazon Bedrock Knowledge Bases能夠支持GraphRAG，增強RAG對知識圖譜的集成。

Amazon Bedrock Data Automation自動化非結構化多模態數據的轉換為結構化數據。

在確保安全性和負責任AI上，Amazon Bedrock Guardrails Multimodal toxicity detection進行基于策略的圖片惡意內容檢測，增強多模態應用安全。

構建和協調Agent上，從本周開始Amazon Bedrock開始支持多智能體協作，使構建和協調專門的智能體來執行復雜工作流程變得容易。

Amazon Q生成AI小助手

Amazon Q Developer即是你的亞馬遜云科技專家，也是最有能力的軟件開發生成式AI助手。

現在Amazon Q Developer可以在SageMaker Canvas中的支持，通過自然語言開發ML模型，特別可以幫助在機器學習模型開發方面經驗較少的客戶。

Amazon Q在Quicksight Scenarios中的支持，實現BI對復雜業務問題的自動拆解，業務人員可以使用自然語言要求Amazon Q幫助解決復雜的商業問題，加速商業分析。

亞馬遜云科技技術副總裁Mai-Lan Tomsen Bukovec對Amazon Q在Quicksight Scenarios中的支持非常興奮，她說，它消除了對技術的理解需求，讓業務部門的用戶可以直接從數據中獲取價值，無需關注技術細節，為他們提供了極大的便利。

她同時還提到，亞馬遜云科技的做法是幫助客戶降低數據成本提供低成本，來應對數據增長的挑戰，并支持數據的多樣性，這對于 AI 和機器學習至關重要。

生成式AI的障礙與解決之道

雖然有了完備的產品技術服務，企業在面對生成式AI時還是會有一些疑慮。亞馬遜云科技全球服務副總裁Uwem Ukpong總結了企業采用生成式AI的三大挑戰：

云遷移瓶頸：全球85%的客戶仍依賴本地數據中心，生成式AI對計算能力的需求迫使他們考慮如何快速轉向云端，以充分釋放AI的潛力。

數據孤島難題：企業數據分散在多個孤島中，需要整合或建立高效的數據訪問管道，才能支持分析、模型訓練和推理。

應用場景聚焦：生成式AI出現后，許多客戶急于開展概念驗證（POC），但常常缺乏明確的投資回報目標和支持，影響了實際落地效果。

生成式AI創新中心的成立就是為了幫助不同AI技術水平的客戶，自去年成立以來，已經與客戶合作完成了超過700個應用案例。

對于具備軟件開發能力的客戶，更多地尋求經驗的指導和借鑒，亞馬遜云科技提供“低強度指導”（low torch engagement），通過經驗分享和建議幫助客戶獨立推進項目。對于缺乏開發能力、沒有深厚技術基礎的客戶，亞馬遜云科技提供“白手套服務”（white glove service），亞馬遜云科技的開發團隊幾乎會像內部團隊一樣直接參與到客戶的工作中，與客戶一起構建生成式AI應用。

同時Uwem Ukpong強調，企業在概念驗證項目中，要認真評估成本與收益，分析投資回報率，并判斷這個具體的用例是否值得我們重點推進。

“我們現在不僅在塑造當下，也在為新的創新騰飛奠定基礎。”正如Swami Sivasubramanian所說，從用于大規模訓練基礎模型的強大工具，到正在革新生產力的生成式AI助手，亞馬遜云科技都是這個融合歷史時刻的積極參與者，在很久以前夢想者的基礎上繼續前行，并為下一波技術先鋒鋪平道路。