企業在實施人工智能策略之前，需要考慮采用一些新技術以幫助保護隱私，并確保符合安全標準。

　　如果企業參與了下一代數字產品工程，那么嘗試采用人工智能（AI）將幫助企業構建新的業務模型、收入流和體驗。

　　但是企業應該了解有關人工智能技術創新的頭條新聞。例如AlphaFold解決了具有50年歷史的蛋白質折疊問題，還有也許更具影響力的一些人工智能技術，這些進步使人工智能變得更加負責任和更加注重隱私。

　　隨著算法在訓練和部署中吸收和采用了越來越龐大的數據集，特別是隨著GDPR、CCPA、HIPAA等新隱私法規的發布，與人工智能/機器學習相關的數據隱私只會變得越來越重要。事實上，美國食品藥品監督管理局（FDA）最近發布了一項新的行動計劃來規范醫療設備中采用的人工智能。不斷擴大的監管框架部分地解釋了數據隱私是這十年最重要問題之一的原因。

　　當企業計劃在未來進行人工智能投資時，以下三種人工智能技術將確保其在未來保持合規性和安全性。

　　1.聯合學習

　　聯合學習是一種越來越重要的機器學習訓練技術，可以解決機器學習最大的數據隱私問題之一，尤其是在具有敏感用戶數據的領域中（例如醫療保健）。過去十年的傳統做法是盡可能地隔離數據。但是，訓練和部署機器學習算法所需的聚合數據已造成嚴重的隱私和安全問題，尤其是在企業之間共享數據時。

　　聯合學習可讓企業提供聚合數據集的洞察力，同時在非聚合環境中確保數據的安全性。基本前提是，本地機器學習模型是在私有數據集上訓練的，模型更新在數據集之間流動以進行集中聚合。至關重要的是，數據永遠不必離開本地環境。

　　通過這種方式，數據在保持安全的同時仍能給組織帶來“群體智慧”。聯合學習降低了單個攻擊或泄漏的風險，因為數據不是存放在單個存儲庫中，而是分散在多個存儲庫中。

　　2.可解釋的人工智能（XAI）

　　許多人工智能/機器學習模型（特別是神經網絡）都是黑盒模型。在經過大量數據的訓練之后，由于難以確定如何以及為何做出某些決定，這些模型通常是不負責任的。為了使它們更具責任感和透明度，需要使它們更具解釋性。

　　一個新興的研究領域稱為“可解釋性”，它使用復雜的技術來幫助為諸如決策樹之類的簡單系統以及諸如神經網絡之類的復雜系統帶來透明度。解釋有助于建立對系統的信任，也可以幫助研究人員了解為什么會犯錯誤以及如何快速糾正錯誤。

　　在醫療、銀行、金融服務和保險等敏感領域，不能盲目相信人工智能決策。例如，在批準銀行貸款時，需要理解為什么有人被拒絕，特別是當考慮到種族偏見潛入其他人工智能系統的例子時。隨著人工智能變得越來越復雜，將這些黑盒模型變得更加清晰將變得越來越重要，可解釋的人工智能（XAI）應該成為未來開發人工智能系統的組織關注的主要領域。

　　3.AIOps/MLOps

　　大約20年前，DevOps徹底改變了應用程序的開發、部署和管理方式。它使管道實現標準化，從而顯著提高了效率，并縮短了交付時間。

　　如今，AIOps/MLOps在人工智能方面也在做同樣的事情。Cognilityca公司預測，到2025年，全球MLOps市場規模將擴大到40億美元。

　　這個想法是通過標準化操作、衡量性能和自動修復問題來加速整個機器學習模型的生命周期。AIOps可以應用于以下三層：

　　（1）基礎設施層

　　這就是容器化發揮作用的地方。自動化工具使組織可以擴展其基礎設施和團隊，以滿足容量需求。DevOps的一個新興子集叫GitOps，它專門將DevOps原理應用于在容器中運行的基于云計算的微服務。

　　（2）應用程序性能管理（APM）

　　根據IDC公司的一項調查，全球應用程序宕機每年造成的損失在1.25美元到25億美元。應用程序性能管理（APM）通過簡化應用程序管理、限制停機時間和最大限度地提高性能來幫助組織。應用程序性能管理（APM）解決方案結合了AIOps方法，使用人工智能和機器學習主動識別問題，而不是采用被動方法。

　　（3）IT服務管理（ITSM）

　　IT服務規模巨大，實際上可以代表IT組織提供給最終用戶的任何硬件、軟件或計算資源，無論該最終用戶是內部員工、客戶還是業務合作伙伴。ITSM采用AIOps實現票務工作流、管理和分析事件、授權和監視文檔等方面的自動化。

　　雖然大多數組織為了提高效率而實施AIOps/MLOps，但許多組織發現，例如應用程序性能管理（APM）平臺可以利用其豐富的數據資源作為預警系統，從而增加額外的安全層。隨著人工智能/機器學習生命周期得到更嚴格的優化和結構化，安全和隱私風險將更容易識別和減輕。

　　負責任地進行實驗

　　在過去的幾年中，人們已經看到了許多強大的人工智能用例，但是未來將是確保這些用例背后的人工智能系統負責任地使用數據。隨著越來越多的隱私法規發布，并且隨著組織看到法規實際上增加了透明度和對客戶的信任，是需要嘗試負責任的人工智能的時候了。聯合學習、可解釋的人工智能和AIOps/MLOps將是三個很好的起點。
責任編輯人：CC