最近幾年，計算力的提升、算法改進和大數據的出現，讓人工智能重新爆發。作為一種技術，人工智能可以用來做許多事。但是，如果把人工智能(AI)應用于惡意軟件的開發會發生什么？威脅行為者可以使用AI驅動的惡意軟件來創建強大的惡意代碼，以逃避復雜的防御。

IBM研究院的安全研究人員開發了一種由人工智能驅動的“高度針對性和回避性”攻擊工具，DeepLocker能夠隱藏其惡意，直到它感染特定目標。

專家在博客中寫道：IBM研究院開發了DeepLocker，以更好地了解現有的幾種AI模型如何與當前的惡意軟件技術相結合，以創建一種特別具有挑戰性的新型惡意軟件。

“這類由人工智能驅動的惡意軟件可以隱藏其意圖，直到它觸達特定受害者。一旦AI模型通過面部識別、地理定位和語音識別等指標識別目標，它就會釋放惡意行為。”

根據IBM研究人員的說法，DeepLocker能夠避免檢測并僅在特定條件匹配后激活自身。人工智能惡意軟件是高目標攻擊的特權選擇，就像民族國家行為者所做的那樣。惡意代碼可以隱藏在有害的應用程序中，并根據各種指標選擇目標，比如語音識別、面部識別、地理定位和其他系統級功能。

“DeepLocker將其惡意負載隱藏在良性運營商應用程序中，比如視頻會議軟件，以避免被大多數防病毒和惡意軟件掃描程序檢測到。”IBM專家表示。

“DeepLocker的獨特之處在于，AI的使用讓解鎖攻擊的‘觸發條件’幾乎不可能進行逆向工程。只有達到了預期目標時，才會解鎖惡意有效負載。它通過使用深度神經網絡(DNN)AI模型實現這一目標。”

研究人員通過將WannaCry勒索軟件隱藏在視頻會議應用程序中并將其保密，直到通過面部識別識別出受害者為止，他們分享了概念驗證。專家指出，可以通過將受害者的臉部與公開照片相匹配來識別目標。

“為了展示DeepLocker功能的含義，我們設計了一個概念驗證。我們在一個良好的視頻會議應用程序中偽裝一個著名的勒索軟件(WannaCry)，以便它不被惡意軟件分析工具(包括防病毒引擎和惡意軟件沙箱)監測到。作為觸發條件，我們訓練AI模型識別特定人員的面部以解鎖勒索軟件并在系統上執行。”

“想象一下，這個視頻會議應用程序是由數百萬人分發和下載的，這在許多公共平臺上現在都是合理的。推出時，該應用程序會秘密地將相機快照提供給嵌入式AI模型，但除了預定的目標之外，所有其他用戶都表現正常，“研究人員補充道。

“當受害者坐在電腦前并使用該應用程序時，相機會將他們的臉部送到應用程序，并且由于受害者的臉，這是解鎖它的預編程鍵，因此將秘密執行惡意有效載荷。”

據悉，IBM研究小組將在拉斯維加斯舉行的黑帽安全大會的現場提供更多詳細信息。