在技術飛速發展、信息消費呈指數級增長的時代，企業在管理、檢索和利用知識方面有許多新的機會。生成式 AI（AIGC）和知識檢索機制的集成正在徹底改變知識管理，使其更具動態性和易用性。生成式 AI 為企業提供了更有效的方式來捕獲和檢索機構知識，通過減少查找信息所花費的時間來提高用戶生產力 副駕駛（copilots）將數據注入大型語言模型 （LLM） 以改進響應生成過程。這個過程可以描述如下：系統接收一個查詢（例如，一個提問），然后在響應之前，從與查詢相關的指定數據源中獲取相關信息，并使用組合的內容和查詢來指導LLM生成適當的響應。

副駕駛的力量在于它們的適應性，特別是其能無縫、安全地利用內部和外部數據源的無與倫比的能力。這種動態的、不斷更新的集成不僅提高了企業知識的可訪問性和可用性，還提高了企業對不斷變化的需求的效率和響應能力。 盡管基于副駕駛模式的解決方案令人興奮，但對于企業來說，仔細考慮設計元素以設計長久的、適應性強且有效的方法非常重要。AI 開發人員如何確保其解決方案不僅能吸引注意力，還能提高客戶參與度？以下是在構建自定義副駕駛（custom copilots）時需要考慮的七大支柱。 ? ?

1.?檢索：大規模數據引入 數據連接器（Data connectors）對于旨在使用副駕駛跨多個專家系統利用其數據的深度和廣度的企業至關重要。這些連接器充當不同數據孤島之間的網關，連接有價值的信息，在統一的搜索體驗中提供可訪問性和可操作性。開發人員可以在其企業數據的基礎上建立模型，并使用 Microsoft Fabric 無縫集成結構化、非結構化和實時數據。 對于副駕駛來說，數據連接器不再只是工具。它們是不可或缺的資產，使企業實時、全面的知識管理成為切實的現實。

2. 擴充：元數據和基于角色的身份驗證 擴充（enrichment）是增強、優化和評估原始數據的過程。在 LLM 的上下文中，擴充通常圍繞著添加上下文層、優化數據以實現更精確的 AI 交互以及數據完整性。這有助于將原始數據轉化為有價值的資源。 在構建自定義副駕駛時，擴充有助于數據在應用程序之間更容易交換和更好的準確性。

通過豐富數據，生成式 AI 應用程序可以提供上下文感知交互。 LLM 驅動的功能通常依賴于特定的專有數據。簡化從多個來源引入數據對于創建平滑有效的模型至關重要。為了使擴充更加動態，引入模板可能是有益的。模板化意味著制作一個基本的提示結構，可以實時填充必要的數據，從而保護和定制人工智能交互。 數據擴充和分塊的綜合優勢可提高 AI 質量，尤其是在處理大型數據集時。使用豐富的數據，檢索機制可以掌握不同文化、語言和特定領域的細微差別。這導致了更準確、多樣化和適應性更強的響應，彌合了機器理解和人類交互之間的差距。

3. 搜索：在數據迷宮中導航 高級嵌入模型正在改變我們理解搜索的方式。通過將單詞或文檔轉換為向量，這些模型可以捕獲它們之間的內在含義和關系。Azure AI 搜索通過矢量搜索功能進行了增強，是這一轉變的領導者。將 Azure AI 搜索與語義重新排名功能結合使用，無論用戶的確切搜索關鍵字如何，都可以為用戶提供上下文相關的結果。

借助副駕駛，搜索過程可以利用內部和外部資源，無需進行大量模型訓練即可吸收新信息。通過不斷整合最新的可用知識，響應不僅準確，而且具有深刻的背景信息，為搜索解決方案的競爭優勢奠定了基礎。 搜索的基礎涉及廣泛的數據引入，包括源文檔檢索、數據分段、嵌入生成、矢量化和索引加載，以確保結果在用戶輸入查詢時與用戶的意圖緊密一致，在獲取搜索檢索最相關的結果之前進行矢量化。

不斷創新以完善搜索功能，催生了混合搜索的新概念。這種創新方法融合了基于關鍵字的搜索的熟悉性與矢量搜索技術的精確性。關鍵字、向量和語義排名的融合進一步改善了搜索體驗，為最終用戶提供了更具洞察力和準確性的結果。

? 4. 提示工程：打造高效和負責任的互動

在AI的世界里，提示工程（prompt engineering）提供了具體的指令來指導LLM的行為并產生所需的輸出。給出正確的提示對于獲得準確且安全且相關的響應以滿足用戶期望至關重要。 快速的效率需要清晰的上下文。為了最大限度地提高 AI 響應的相關性，請務必明確說明。例如，如果需要簡明的數據，請指定我們想要一個簡短的答案。上下文也起著核心作用。與其只詢問市場趨勢，不如指定電子商務中的當前數字營銷趨勢，甚至為模型提供演示預期行為的示例也會有所幫助。 Azure AI 提示流使用戶能夠在使用開源模型時添加內容安全篩選器，以檢測和緩解輸入和輸出中的有害內容，例如越獄或暴力語言。或者，用戶可以選擇使用通過 Azure OpenAI 服務提供的模型，這些模型內置了內容篩選器。通過將這些安全系統與快速的工程和數據檢索相結合，客戶可以提高其應用的準確性、相關性和安全性。 實現高質量的 AI 響應通常涉及工具和策略的混合。定期評估和更新提示有助于使響應與業務趨勢保持一致。有意識地為關鍵決策制作提示，對單個提示生成多個 AI 響應，然后為用例選擇最佳響應是一種謹慎的策略。使用多方面的方法有助于 AI 成為用戶可靠且高效的工具，推動明智的決策和策略。

5. 用戶界面 （UI）：AI 與用戶之間的橋梁
有效的 UI 提供有意義的交互來引導用戶完成他們的體驗。在不斷變化的副駕駛環境中，提供準確且相關的結果始終是我們的目標。但是，在某些情況下，AI 系統可能會生成不相關、不準確或不接地氣的響應。UX 團隊應該實施人機交互最佳實踐來減輕這些潛在的危害，例如通過提供輸出引用、在輸入和輸出的結構上設置護欄，以及提供有關應用程序功能和限制的大量文檔。

為了緩解有害內容生成等潛在問題，應考慮各種工具。例如，分類器可用于檢測和標記可能有害的內容，指導系統的后續操作，無論是更改主題還是恢復到傳統搜索。Azure AI 內容安全是實現此目的的絕佳工具。

基于檢索增強生成 （RAG） 的搜索體驗的核心原則是以用戶為中心的設計，強調直觀和負責任的用戶體驗。初次使用者的旅程應結構化，以確保他們理解系統的功能，了解其人工智能驅動的本質，并了解任何限制。聊天建議、對約束的清晰解釋、反饋機制和易于訪問的參考資料等功能增強了用戶體驗，促進了信任并最大限度地減少了對人工智能系統的過度依賴。

6. 持續改進：AI演進的心跳

AI模型的真正潛力是通過不斷的評估和改進來實現的。僅僅部署模型是不夠的;它需要持續的反饋、定期迭代和一致的監控，以確保它滿足不斷變化的需求。AI 開發人員需要強大的工具來支持 LLM 的整個生命周期，包括不斷審查和提高 AI 質量。這不僅將持續改進的想法帶入生活，而且確保它對開發人員來說是一個實用、高效的過程。 確定和解決需要改進的領域是不斷完善 AI 解決方案的基本步驟。它涉及分析系統的輸出，例如確保檢索到正確的文檔，并檢查提示和模型參數的所有細節。這種級別的分析有助于識別潛在的差距，以及需要改進的領域，以優化解決方案。 Azure AI Studio 中的提示流是為 LLM 量身定制的，可轉換 LLM 開發生命周期。可視化 LLM 工作流以及測試和比較各種提示版本性能的能力等功能使開發人員能夠敏捷和清晰地工作。因此，從概念化 AI 應用程序到部署它的過程變得更加連貫和高效，從而確保了強大的企業級解決方案。

? 7. 統一開發

AI的未來不僅僅是算法和數據。它涉及我們如何檢索和豐富數據、創建強大的搜索機制、提示工程、注入負責任的 AI 最佳實踐、與我們的系統交互并不斷完善我們的系統。 AI 開發人員需要集成預構建的服務和模型、及時的編排和評估、內容安全以及負責任的 AI 工具，以實現隱私、安全性和合規性。Azure AI Studio 提供全面的模型目錄，包括最新的多模式模型（如即將在 Azure OpenAI 服務中推出的 GPT-4 Turbo with Vision）以及 Falcon、Stable Diffusion 和 Llama 2 托管 API 等開放模型。Azure AI Studio 是面向 AI 開發人員的統一平臺。它開創了生成式 AI 開發的新時代，使開發人員能夠大規模探索、構建、測試和部署其 AI 創新。VS Code、GitHub Codespaces、語義內核和 LangChain 集成支持以代碼為中心的體驗。 無論是創建自定義副駕駛、增強搜索、提供呼叫中心解決方案、開發機器人和定制應用程序，還是這些的組合，Azure AI Studio 都能提供必要的支持。

隨著人工智能的不斷發展，必須牢記這七大支柱，以幫助構建高效、負責任且始終處于創新前沿的系統。

? 審核編輯：黃飛