自 ChatGPT 火爆出圈以來(lái)，各式大模型與生成式 AI 技術(shù)噴涌而出，醫(yī)療、金融、出行、消費(fèi)零售、互聯(lián)網(wǎng)等各個(gè)行業(yè)都在尋找利用生成式AI 技術(shù)賦能業(yè)務(wù)創(chuàng)新的方法。然而，從摸索到落地，企業(yè)在應(yīng)用用生成式 AI 技術(shù)尚存在門檻，使用現(xiàn)成的技術(shù)服務(wù)又會(huì)產(chǎn)生安全等方面的顧慮，比如業(yè)務(wù)數(shù)據(jù)泄漏等問題。一時(shí)間，許多企業(yè)陷入進(jìn)退兩難的境地。本篇就來(lái)說(shuō)道說(shuō)道企業(yè)在落地生成生式 AI 應(yīng)用過(guò)程中的那些事。

從模型選擇到業(yè)務(wù)安全，生成式 AI 應(yīng)用誕生的曲折

實(shí)際上，生成式 AI 市場(chǎng)經(jīng)過(guò)一年多快速的發(fā)展，一方面市場(chǎng)上涌現(xiàn)出很多大模型與配套服務(wù)，另一方面，企業(yè)面臨的難題也在與日俱增。

首先，從模型的選擇開始，眼花繚亂的大模型就已經(jīng)夠廠家喝上一壺。5 月 28 日，由中國(guó)科學(xué)技術(shù)信息研究所、科技部新一代人工智能發(fā)展研究中心聯(lián)合相關(guān)研究機(jī)構(gòu)編寫的《中國(guó)人工智能大模型地圖研究報(bào)告》正式發(fā)布，報(bào)告顯示，我國(guó) 10 億參數(shù)規(guī)模以上大模型已發(fā)布近 80 個(gè)。再到 10 月中國(guó)新一代人工智能發(fā)展戰(zhàn)略研究院發(fā)布的《2023中國(guó)新一代人工智能科技產(chǎn)業(yè)發(fā)展報(bào)告》顯示，目前國(guó)內(nèi)大模型總數(shù)達(dá) 238 個(gè)。而據(jù)北京經(jīng)信局?jǐn)?shù)據(jù)，截至 10 月初，北京發(fā)布大模型數(shù)量達(dá) 115 個(gè)，其中通用大模型 12 個(gè)，垂類大模型 103 個(gè)。

按照這個(gè)發(fā)展趨勢(shì)，“百模大戰(zhàn)”或許很快就會(huì)升級(jí)為“千模大戰(zhàn)”。而企業(yè)如何選擇大模型便會(huì)難上加難。在具體應(yīng)用場(chǎng)景中，企業(yè)需要在準(zhǔn)確性和性能平衡間作出衡量，有效地比較模型并根據(jù)其首選指標(biāo)找到最佳選擇，這就需要深厚的數(shù)據(jù)科學(xué)專業(yè)知識(shí)，也會(huì)耗費(fèi)大量的人力時(shí)間成本。

而模型的選擇只是開始，確定模型之后，還需要結(jié)合自身業(yè)務(wù)，做模型的精調(diào)、訓(xùn)練等工作。在這一步，公司的業(yè)務(wù)數(shù)據(jù)類型與大模型輸入所要求的數(shù)據(jù)類型需要做一定適配，同時(shí)輸入的數(shù)據(jù)需要具有代表性、多樣性、一致性和可靠性，這樣才能實(shí)現(xiàn)效果更佳的輸出，這便要求企業(yè)需要有既懂業(yè)務(wù)，又懂大模型技術(shù)的工程師對(duì)數(shù)據(jù)進(jìn)行整理。

此外，大模型的精調(diào)也需要大量的算力，需要投入大量的資金和時(shí)間來(lái)購(gòu)買和維護(hù)硬件設(shè)備，或者租用云服務(wù)，同時(shí)基礎(chǔ)設(shè)施也需要長(zhǎng)時(shí)間的維護(hù)。而大模型技術(shù)作為新興技術(shù)，許多公司并沒有相應(yīng)的人才儲(chǔ)備與經(jīng)驗(yàn)，這對(duì)企業(yè)來(lái)說(shuō)也是不小的壓力。

模型本身的問題解決了之后，企業(yè)還要面臨安全隱患。比如很多使用方會(huì)擔(dān)心，用了某個(gè)大模型，那么自己的數(shù)據(jù)會(huì)不會(huì)都被模型方看到甚至泄露？會(huì)不會(huì)導(dǎo)致敏感信息泄漏，或是生成違規(guī)內(nèi)容等等？那么，企業(yè)就需要確保數(shù)據(jù)在傳輸、存儲(chǔ)和處理的過(guò)程中不會(huì)被泄露或者濫用，以免給業(yè)務(wù)和聲譽(yù)帶來(lái)?yè)p失。

亞馬遜云科技助力企業(yè)安全構(gòu)建生成式 AI 應(yīng)用

面對(duì)種種挑戰(zhàn)，對(duì)于許企業(yè)來(lái)說(shuō)，最佳選擇可以是給自己找一個(gè) AI 助手，全方面輔助完成 AI 能力的嵌入，最常見的便是云上大模型平臺(tái)和服務(wù)。

2023年11月28日，2023亞馬遜云科技 re:Invent 在美國(guó)拉斯維加斯盛大開啟，并于12月2日?qǐng)A滿落下帷幕。2023年12月12日起，2023亞馬遜云科技re:Invent 中國(guó)行城市巡展活動(dòng)將在10大城市開啟，覆蓋北京、上海、廣州、深圳、成都、青島、南京、西安、杭州、長(zhǎng)沙10個(gè)城市！

作為全球云計(jì)算領(lǐng)域的年度風(fēng)向標(biāo)，2023 亞馬遜云科技 re:Invent 為全球云計(jì)算愛好者和構(gòu)建者帶來(lái)了最新的產(chǎn)品和技術(shù)發(fā)布、最前沿的領(lǐng)導(dǎo)者洞察和全球云計(jì)算的最佳實(shí)踐。在今年 re:Invent 中，一系列重磅發(fā)布成為大會(huì)焦點(diǎn)，從 Serverless、生成式AI時(shí)代的數(shù)據(jù)戰(zhàn)略、芯片與云底座創(chuàng)新，到 Amazon Bedrock 的重磅更新、企業(yè)級(jí)生成式AI 應(yīng)用 (Amazon Q) 的全新發(fā)布等等，系列組合拳為企業(yè)落地生成式 AI 應(yīng)用全方位護(hù)航。

在多個(gè)新發(fā)布的動(dòng)作中，一項(xiàng)全面托管服務(wù)的重磅更新引人注目——Amazon Bedrock 發(fā)布更多模型選擇和全新強(qiáng)大功能。

首先，Amazon Bedrock 上集成了 AI21 Labs、Anthropic、Cohere、Meta、Stability AI 和亞馬遜的多種行業(yè)領(lǐng)先大語(yǔ)言模型和其他模型，用戶可輕松訪問。不僅如此，為了幫助客戶在紛繁的模型中選擇更適合自己的，Amazon Bedrock 新功能可幫助客戶高效評(píng)估、比較和選擇最適合其應(yīng)用場(chǎng)景和業(yè)務(wù)需求的模型。

確定模型之后，企業(yè)往往需要針對(duì)模型做適配，或者說(shuō)是擴(kuò)展調(diào)優(yōu)，最大程度地釋放數(shù)據(jù)價(jià)值。針對(duì)這些部分，Amazon Bedrock 知識(shí)庫(kù)功能使用上下文和相關(guān)公司數(shù)據(jù)定制模型響應(yīng)：組織希望使用專有數(shù)據(jù)補(bǔ)充現(xiàn)有模型，以獲得更相關(guān)和更準(zhǔn)確的響應(yīng)。針對(duì)模型調(diào)優(yōu)，Amazon Bedrock 中的 Cohere Command、Meta Llama 2 和 Amazon Titan 模型支持調(diào)優(yōu)，為客戶的模型定制提供更多選項(xiàng)，Anthropic Claude 也即將支持調(diào)優(yōu)。

此外，Amazon Bedrock 也兼?zhèn)浯砉δ埽梢宰詣?dòng)執(zhí)行，使用公司系統(tǒng)和數(shù)據(jù)源執(zhí)行多步驟任務(wù)。雖然模型能夠有效地進(jìn)行對(duì)話和創(chuàng)建新內(nèi)容，但如果能夠執(zhí)行復(fù)雜的操作，例如解決問題以及與公司系統(tǒng)交互以完成任務(wù)（例如，旅行預(yù)定或訂購(gòu)替換零件），它們可以提供更多價(jià)值。然而，這需要定制化地將模型與公司數(shù)據(jù)源、API以及內(nèi)部和外部系統(tǒng)集成起來(lái)。開發(fā)人員必須編寫代碼來(lái)協(xié)調(diào)模型、系統(tǒng)和用戶之間的交互，以便應(yīng)用程序可以按邏輯順序執(zhí)行一系列API調(diào)用。為了將模型與數(shù)據(jù)源連接起來(lái)，開發(fā)人員必須部署RAG，以便模型可以根據(jù)任務(wù)調(diào)整其響應(yīng)。最后，開發(fā)人員必須配置和管理必要的基礎(chǔ)設(shè)施，并制定數(shù)據(jù)安全和隱私策略。這些步驟非常耗時(shí)且需要專業(yè)知識(shí)，從而減慢了生成式AI應(yīng)用程序的開發(fā)速度。現(xiàn)在正式可用、完全托管的Amazon Bedrock代理功能使生成式AI應(yīng)用程序能夠跨公司系統(tǒng)和數(shù)據(jù)源執(zhí)行多步驟任務(wù)。

最后，在交互安全層面。雖然許多模型使用內(nèi)置控件來(lái)過(guò)濾不良和有害內(nèi)容，但企業(yè)希望進(jìn)一步定制交互，以保證話題始終與業(yè)務(wù)相關(guān)，符合公司政策，并遵守“負(fù)責(zé)任的 AI”的原則。例如，銀行可能希望這樣設(shè)置其在線助手：避免查詢競(jìng)爭(zhēng)對(duì)手、避免提供投資建議、以及限制有害內(nèi)容。此外，應(yīng)用戶要求，可能要變換或隱去用戶的個(gè)人身份信息（PII）以保證安全。企業(yè)希望以一種簡(jiǎn)化的方式在生成AI應(yīng)用程序中強(qiáng)化關(guān)鍵策略和規(guī)則，以提供所答即所問的用戶體驗(yàn)并支持更安全地使用該技術(shù)。Amazon Bedrock 的 Guardrails 功能現(xiàn)已推出預(yù)覽版，使客戶能夠?yàn)樯墒?AI 應(yīng)用程序?qū)嵤┍Ｗo(hù)措施。借助Amazon Bedrock的Guardrails功能，客戶可以根據(jù)應(yīng)用程序要求和負(fù)責(zé)任的AI策略跨模型實(shí)施保護(hù)措施。這些應(yīng)用程序根據(jù)客戶應(yīng)用場(chǎng)景和“負(fù)責(zé)任的AI”原則進(jìn)行定制，因此這一功能可以增強(qiáng)用戶交互的安全性和隱私性。

目前，亞馬遜云科技已經(jīng)推出多款產(chǎn)品助力企業(yè)構(gòu)建生成式 AI 應(yīng)用，緩解 AI“焦慮”其中也不乏許多科技界合作伙伴。MongoDB首席產(chǎn)品官Sahir Azam表示：“各行各業(yè)越來(lái)越多的客戶希望利用生成式AI來(lái)構(gòu)建下一代應(yīng)用程序，但許多人擔(dān)心數(shù)據(jù)隱私以及人工智能驅(qū)動(dòng)的系統(tǒng)輸出的準(zhǔn)確性。為了滿足客戶的需求，我們將MongoDB Atlas作為Amazon Bedrock的知識(shí)庫(kù)，以便我們的共同客戶可以利用其運(yùn)營(yíng)數(shù)據(jù)安全地構(gòu)建生成式AI應(yīng)用程序，以符合最終用戶期望的信任度和準(zhǔn)確性來(lái)創(chuàng)建個(gè)性化體驗(yàn)。通過(guò)這種集成，客戶可以訪問行業(yè)領(lǐng)先的基礎(chǔ)模型，并使用MongoDB Atlas Vector Search處理過(guò)的數(shù)據(jù)來(lái)創(chuàng)建應(yīng)用程序，在正確的上下文中提供更多相關(guān)的輸出。利用Amazon Bedrock知識(shí)庫(kù)中內(nèi)置的數(shù)據(jù)隱私最佳實(shí)踐，客戶可以節(jié)省在生成式AI運(yùn)營(yíng)上花費(fèi)的時(shí)間，從而更專注于技術(shù)部署，以在亞馬遜云科技上提供更有吸引力的最終用戶體驗(yàn)。”

當(dāng)然，除了 Amazon Bedrock，2023亞馬遜云科技 re:Inven還有許多重磅發(fā)布，并且在接下來(lái)的2023亞馬遜云科技 re:Invent 中國(guó)活動(dòng)中，亞馬遜云科技也將對(duì)各個(gè)新產(chǎn)品新功能做深入解讀。

審核編輯：黃飛

?