網絡犯罪分子正在利用人工智能 (AI) 的最新發展來創建新的、復雜的攻擊。人工智能可以在很大程度上實現更快、更隱蔽、自動化的攻擊：這種新的趨勢被稱為攻擊性人工智能。

如何利用人工智能展開攻擊和進行安全分析？

人工智能是一種強大的工具，攻擊者以各種方式和目的來使用它并實施攻擊：從數據竊取、規避檢測或發現漏洞，到社交工程攻擊。

有關攻擊性人工智能的一個比較常見且具有威脅性的例子，是使用深偽技術進行網絡釣魚攻擊。深偽技術是通過深度學習創建假圖像或假聲音（更一般來講，媒體）來模仿受害者，最初是通過換臉[1]。使用深偽技術，攻擊者可以實施網絡釣魚攻擊，例如，通過模仿 CEO 向員工索取金錢或敏感信息。在過去幾年里，曾經發生過類似事件，特別是使用聲音克隆實施攻擊 [2,3]。深偽技術網絡釣魚和其他社交工程攻擊，被學術界和工業界的專家認為是攻擊性人工智能最嚴重的威脅之一 [4]。

另一個令人擔憂的威脅是人工智能和機器學習 (ML) 從黑匣子系統中提取信息的效率：換句話說，用于逆向工程 (RE) 的人工智能。攻擊性人工智能通過幫助分析編譯代碼的內部結構，加速了漫長而艱難的逆向工程過程 [5]。因此，攻擊性人工智能成為對知識產權和隱私的威脅，也可能用于發現漏洞從而允許攻擊者更快地構建攻擊體系。盡管大部分注意力都集中在軟件應用程序逆向工程上，但人工智能已應用于集成電路系統中的網表逆向工程，以繞過類似代碼混淆的反逆向工程對策 [6]。

側信道攻擊和評估 (SCA) 是利用人工智能繞過保護的另一個攻擊示例。在這些攻擊中，深度神經網絡被用來繞過反制措施并從加密引擎泄漏的物理輻射中提取私鑰。在這種情況下，人工智能還可以實現更快、更自動化的攻擊 [7]。

總體而言，攻擊性人工智能可實現更高水平的自動化攻擊。攻擊者目前能夠進行大規模的“按鈕式”網絡釣魚活動，例如，根據受害者的數據自動地創建惡意電子郵件和網站，以及自動啟動和執行不同的攻擊步驟。因此，人工智能可以擴大攻擊范圍，減少必要的人際互動，最終提高攻擊者的成功率。

應對人工智能攻擊的安全挑戰。

攻擊性人工智能的效率使組織難以防范它。首先，人為控制的檢測系統無法隨時跟上這些攻擊發生時的速度和規模。就數量和速度而言，防御團隊的響應能力可能會被大規模攻擊活動所淹沒。其次，傳統的規則或基于簽名的檢測工具可以檢測已知的攻擊，但對于新的或未見過的攻擊效率低下。

最后，一些人工智能攻擊，尤其是與電子郵件網絡釣魚等社會工程相關的攻擊，非常令人擔憂，因為它們依賴于人為操縱，并不完全在行業通常部署的網絡防御系統的范圍內。

???如何應對攻擊性人工智能？

雖然人類和傳統防御結構難以跟上這些新威脅的步伐，新的保護措施正在不斷涌現，也在利用人工智能的力量：這就是防御性人工智能。實際上，如果人工智能可以用作發動更快、更危險攻擊的工具，那么它也可以加強防御并加速安全團隊在面臨威脅時的反應。

利用人工智能，可以創建準確可靠的檢測系統，可以設計用于檢測攻擊嘗試、入侵或異常。這在不同的網絡安全場景下是有用的：欺詐檢測、勒索軟件識別、物理攻擊檢測等。此外，一些近期的人工智能檢測方法通過依賴于機器學習算法來實現設備的正常操作，從而可以檢測到異常的可疑行為并防范新的未知攻擊。

人工智能的另一個巨大好處是，通過大數據工具和解決方案可以在短時間內收集、攝取和分析大量信息。通過訪問過去的數據，結合先進的分析技術，可以以高效的速度和準確性檢測威脅、識別和應對突發事件。

Secure-IC如何應對攻擊性人工智能？

Secure-IC提供先進的攻擊檢測系統，包括硬件和軟件層面，以應對高級攻擊。SecuryzrTM一體化安全服務平臺（iSSP）實施基于防御性人工智能的保護措施，能夠檢測未知攻擊。

這個解決方案包括一種基于人工智能的入侵檢測系統（IDS），可部署在自動駕駛車輛電子控制單元（ECUs）或智能手機等設備上，并兼容多種通信接口：控制器局域網總線、以太網、自定義傳感器等。嵌入式入侵檢測系統通過使用機器學習來分析實時流量，并在檢測攻擊和可疑異常活動的過程中生成警報。

這些警報，以及其他遙測和安全信息，隨后通過安全通道發送到遠程服務器，例如，發送到一個安全運營中心（SOC）。在那里，設備群的數據可以使用高級人工智能分析進行聚合和關聯，使安全運營中心團隊能夠全局了解所有設備的安全狀態，進行進一步分析，并迅速采取適當的響應。

在安全評估方面，LaboryzrTM平臺具有執行增強人工智能側信道攻擊的能力，以確保嵌入式系統在硅后、硅前和軟件層面具有最高級別的安全性。

如果您對此主題以及我們防御辦法有任何問題，我們很樂意解答。