2023亞馬遜云科技re:Invent全球大會進入第三天，亞馬遜云科技數據和人工智能副總裁Swami Sivasubramanian博士在周三的主題演講中，為大家帶來了關于亞馬遜云科技生成式AI的最新能力、面向生成式AI時代的數據戰略以及借助生成式AI應用提高生產效率的精彩分享，攜手眾多客戶與合作伙伴，共話如何借助數據和生成式AI重塑業務、加速創新。

Swami博士在開場中指出：“當前我們處在另一個新技術的前沿。今天，人類和技術之間正展現出前所未有的緊密關系，生成式AI正以許多意想不到的方式提升人類的生產力。這種關系讓人類與人工智能共同形成新的創新充滿了無限可能性。”

Amazon Bedrock發布更多模型選擇和全新開發工具，

助力安全構建和規模化生成式AI應用

Swami博士介紹：“生成式AI有望成為我們這個時代最具變革性的技術。各行各業都在將生成式AI融入各自的業務，但沒有一個大模型能夠適合所有的場景。利用Amazon Bedrock，客戶可選擇任何合適的模型來進行快速創新。”Amazon Bedrock現已支持新推出的基礎模型版本包括：Anthropic Claude 2.1、Meta Llama 2 70B以及Amazon Titan Family等。

支持Anthropic最新Claude 2.1模型。提供了長達200,000個token的上下文窗口，并且提高了長文檔的準確性。與上一代模型相比，Claude 2.1在開放式對話中的錯誤陳述減少了50%，同時單次調用的成本降低了25%。

支持Meta Llama 2 700億參數模型。與早些支持的Llama 2 130億參數模型相同，這些模型在多個外部基準測試中的表現卓越，包括推理、編碼、熟練程度和知識測試等，并在Amazon Bedrock上提供了極高的性價比組合。

除了第三方的模型外，Amazon Bedrock也包含了亞馬遜云科技自研的、最新升級的基礎模型Amazon Titan：

新增大語言模型Amazon Titan Text Lite與Amazon Titan Text Express。除Embedding的模型外，亞馬遜云科技還提供兩款大語言模型Amazon Titan Text Lite和Amazon Titan Text Express。Titan Text Lite可執行對文本的總結、文案生成和微調；Titan Text Express開放式文本生成、會話聊天，并支持RAG（檢索知識增強）。

新增Amazon Titan Multimodal Embeddings模型。幫助客戶為最終用戶提高多模態搜索和推薦體驗，讓輸出結果更準確且與上下文相關。模型可以將圖像和短文本轉換為Embedding數字表示形式，使模型能夠輕松理解語義以及數據之間的關系。最終用戶可以使用圖像和文本提示的任意組合進行搜索查詢。

新增Amazon Titan Image Generator模型。為了兌現亞馬遜云科技踐行負責任的人工智能承諾，所有Amazon Titan生成的圖像都包含不可見水印。通過建立嚴謹的識別AI生成圖像的機制，來減少錯誤信息的傳播，促進AI技術的安全、可靠和透明發展。亞馬遜云科技是首批廣泛發布內置隱形水印的模型提供商之一，這些水印集成到輸出的圖像中，并設計為“拒絕更改”。

為客戶提供更多選擇的同時，如何更好地匹配業務需求成為客戶面臨的新問題。為幫助客戶高效評估、比較和選擇最適合其應用場景和業務需求的基礎模型為幫助客戶更好的應用，Swami博士介紹了最新的Amazon Bedrock模型評估與選擇功能。

在Amazon Bedrock控制臺中，客戶可以選擇他們想要針對給定任務（例如問答或內容摘要）進行比較的模型，如需自動評估，客戶可以選擇預定義的評估標準（例如準確性、魯棒性和是否含有有害內容）并上傳自己的測試數據集或從內置的公開數據集中進行選擇。對于需要復雜判斷的主觀標準或細微內容，客戶只需點擊幾下即可輕松設置基于人工的評估工作流程并生成報告。以便客戶可以輕松了解模型在關鍵標準上的表現，并可以做出最佳權衡，從而快速選擇最適合其應用場景的模型。

全新定制功能幫助客戶更好地使用

私有數據定制基礎模型

Swami博士強調，數據是構建差異化生成式AI應用的核心優勢。對于企業而言，如何使用企業私有數據打造更懂您的業務、更懂客戶的生成式AI應用至關重要。Amazon Bedrock提供專門構建的全新功能，可幫助客戶使用自己的數據，私密且安全地定制模型，以構建差異化的生成式AI驅動的應用。

針對Amazon Titan Text Lite和Titan Text Express基礎模型的持續預訓練支持：進一步借助企業最新的私有數據增強對基礎模型的控制，讓基礎模型的輸出更懂您的業務。

Cohere Command、Meta Llama 2和Amazon Titan模型現在可以在Amazon Bedrock上進行微調，并且即將推出對Anthropic Claude 2.1的支持：客戶可使用帶標簽的數據集提高特定任務的模型準確性。此外，亞馬遜云科技客戶很快就能夠利用自己的數據源微調Anthropic Claude 2的性能。

Knowledge Base for Amazon Bedrock正式可用，可以幫助客戶借助RAG使用上下文和相關公司數據定制模型輸出。Knowledge Base for Amazon Bedrock可將模型安全地連接到公司內部數據源用于RAG，以便為聊天機器人和問答系統等場景提供更準確、針對特定上下文的響應。Knowledge Base for Amazon Bedrock支持多種向量數據庫，包括Amazon OpenSearch、Pinecone和Redis Enterprise Cloud的向量引擎，Amazon Aurora和MongoDB也即將推出。

借助Amazon Bedrock Agents功能，生成式AI應用程序助力更便捷高效地開發生成式AI應用。完全托管的Amazon Bedrock代理功能使生成式AI應用程序能夠跨公司系統和數據源執行多步驟任務。借助適用于Amazon Bedrock Agents，客戶可以提升準確性，加速生成式AI應用程序的開發。

全新推出Amazon SageMaker HyperPod助力客戶更輕松地構建、訓練和部署生成式AI模型。Amazon SageMaker HyperPod可以提供對按需AI訓練集群的訪問，開發人員可以通過點擊式命令和相對簡單的腳本組合來配置集群，這比手動配置基礎架構要快得多。

重塑生成式AI時代的數據戰略——

打造全面、集成、受治理的數據基座

Swami博士提到：“數據是您的差異化能力，同時高質量的數據是生成式AI應用的基礎，如果要獲取高質量的數據，用戶必須要構建強大的數據戰略。生成式AI對數據戰略提出了新的要求。”他以“全面的、集成的、受治理的”三個維度，開啟了系列精彩功能發布：

全面的（Comprehensive）：

新增支持向量數據庫的系列功能

全新發布的Vector Engine for OpenSearch Serverless，能夠帶來更高效的搜索和流程處理。

同時，還發布了Amazon DocumentDB和Amazon DynamoDB新增支持向量檢索功能，可以允許用戶將多種數據存儲在一起。

除此之外，Amazon MemoryDB for Redis也新增支持向量檢索，響應時間變得更快，每秒可以處理數萬個查詢。

集成的（Integrated）：

持續投資zero-ETL的未來

Amazon S3加持下的OpenSearch Service zero-ETL integration，這個新集成的工具可以分析S3中的所有操作數據。

受治理的（Governed）：

數據治理

全新推出Amazon Clean Rooms ML，它可以允許用戶在不共享底層數據的情況下與業務伙伴共同使用機器學習模型。

生成式AI驅動的Amazon Q支持的數據管理

AI改變生活和工作方式、提升效率，而生成式AI毫無疑問會進一步提升我們的生產力與工作效率。生成式AI驅動的Amazon Q，可以幫助用戶更好的管理數據，實現便捷、直觀，更容易訪問。

1. 發布Amazon Q natural language SQL query in RedShift，可以幫助將自然語言轉換為SQL，并且在RedShift中做SQL查詢；

2. 發布Amazon Q data integration in Amazon Glue，允許用戶使用自然語言實現數據集成。

加速生成式Al之旅所需的一切，

交給亞馬遜云科技為您構建！

最后，Swami博士以愛因斯坦的名言作為結尾，“創造力就是看到別人見過的東西，思考別人沒有想到的東西。”數據、生成式AI及人的關系越來越緊密，將加快我們構建創新與差異化體驗的節奏。在安全的地方利用您的數據構建生成式AI，提升用戶全面智慧體驗，亞馬遜云科技有幫助您構建智慧體驗的所有服務能力。

審核編輯 黃宇