隨著AI智能體的快速發展，它們正變得日益復雜、自主且功能多樣，應用范圍也在持續擴大。然而，在AI智能體即將步入“規模就業”的新階段之前，安全問題成為了企業不可忽視的重大挑戰。為了確保AI智能體的廣泛應用，企業必須在信任、物理安全、網絡安全以及合規性等方面做好充分準備。

為了應對這些挑戰，英偉達近日推出了全新的NVIDIA NIM AI Guardrail微服務。作為NVIDIA NeMo Guardrails軟件工具系列的重要組成部分，該微服務旨在幫助開發者在大語言模型（LLM）應用中集成和管理AI護欄，從而確保AI智能體的安全可控。目前，包括Amdocs、Cerence AI以及勞氏公司（Lowe‘s）在內的眾多行業領軍企業，都在使用NeMo Guardrails來保護其AI應用的安全。

一項針對企業組織采用AI智能體的調研顯示，絕大多數組織對AI智能體持積極態度。其中，10%的組織已經在使用AI智能體，52%計劃在未來2-3年內實施，而30%則計劃在明年內就引入AI代理。僅有7%的組織表示尚未考慮使用AI智能體。這表明，未來兩三年內，AI智能體有望在眾多組織中實現廣泛應用。

然而，企業在部署AI智能體的過程中，仍需面臨諸多挑戰。英偉達指出，安全性、數據隱私、治理以及性能是四大關鍵因素。為了確保AI智能體的安全可控，NVIDIA NeMo Guardrails提供了一套全面的解決方案，涵蓋了定義、編排和執行三個關鍵環節。

在定義環節，企業可以根據自身需求定制安全規則；在編排環節，NeMo Guardrails能夠高效整合多個專業化的安全規則；在執行環節，則確保AI智能體在保持高性能的同時，嚴格遵守安全規則。

為了進一步提升AI智能體的安全性和合規性，NeMo Guardrails引入了三項全新的NIM微服務：內容安全NIM微服務、話題控制NIM微服務和越獄檢測NIM微服務。這些微服務能夠防止AI生成有偏見或有害的輸出，確保對話內容符合道德標準，并增加對越獄企圖的防護。

據英偉達介紹，由于“一刀切”的方法無法有效保護和控制復雜的代理式AI工作流，因此NeMo Guardrails采用了多個輕量級專業模型作為護欄。這種方法不僅能夠彌補全局策略和保護措施的不足，還能在不顯著影響性能的情況下，顯著提高AI智能體的安全性和合規性。

相關測試結果顯示，在添加了AI安全護欄后，響應延遲僅為半秒，而合規性則提高了1.5倍。這表明NeMo Guardrails能夠在保持高性能的同時，顯著提升AI代理的安全性和合規性。

此外，NeMo Guardrails還使用了Aegis內容安全數據集進行訓練，該數據集是同類中質量較高的人工注釋數據源之一。這使得NeMo Guardrails在審核內容安全方面更具優勢。

借助全新的NVIDIA NIM AI Guardrail微服務，開發者可以構建更加安全、可信的AI智能體。這些智能體能夠遵循特定語境準則做出安全、適當的回答，并有效抵御越獄企圖。它們可被廣泛應用于汽車、金融、醫療、制造、零售等行業，提高客戶滿意度和信任度。

目前，多個行業已經開始采用NVIDIA的NeMo Guardrails來增強AI應用的安全性和可控性。作為一個開源工具，NeMo Guardrails允許開發者通過編排AI策略來提升大型語言模型應用的安全性。同時，NVIDIA還與多家領先企業合作，將NeMo Guardrails集成到他們的解決方案中，以提供更安全、可靠的生成式AI應用。

未來，隨著AI智能體的廣泛應用，NeMo Guardrails的開放性和可擴展性將使其能夠集成更多的AI安全模型和防護提供商的生態系統，以及AI可觀察性和開發工具。這將進一步增強NeMo Guardrails的監控和推理能力，為AI智能體的安全可控提供更加堅實的保障。