摘要

隨著算力提升、數(shù)據(jù)積累等因素的共同作用，人工智能技術的應用門檻逐步降低，在網(wǎng)絡安全領域的應用快速拓展，加劇現(xiàn)實安全威脅的同時也催生了新型安全威脅，全球關鍵信息基礎設施安全受到挑戰(zhàn)。從人工智能在網(wǎng)絡安全領域的應用出發(fā)，以網(wǎng)絡安全威脅為視角進行分析，得出關鍵信息基礎設施防護面臨著攻擊模式自動演化、攻擊手段自動化、攻擊者分工專業(yè)化等挑戰(zhàn)。結合當前全球關鍵信息基礎設施防護的普遍實踐，提出智能化防護體系、縮短發(fā)起響應的時間、培養(yǎng) AI+ 網(wǎng)絡安全人才等對策，為保障關鍵信息基礎設施安全提供科學參考。

4結語

自 20 世紀 50 年代首次提出人工智能這一概念后，隨著計算機技術的不斷進步，人工智能概念的范圍也逐漸擴大，計算機圖像識別、數(shù)據(jù)挖掘、深度學習等技術也相繼被納入人工智能的范疇。近些年，在算力提升、數(shù)據(jù)積累等因素的共同作用下，人工智能技術的應用范圍不斷擴大，應用門檻也逐步降低，引起了世界主要國家和集團的高度重視。2017 年，中國印發(fā)了《新一代人工智能發(fā)展規(guī)劃》，提出要在 2030 年使“中國人工智能理論、技術與應用總體達到世界領先水平，成為世界主要人工智能創(chuàng)新中心”。2019 年，美國發(fā)布《2018 國防部人工智能戰(zhàn)略概要》，提出要將人工智能作為未來關鍵的軍事技術進行研究，并于同年發(fā)布了新的《國家人工智能研究與發(fā)展戰(zhàn)略規(guī)劃》。歐盟、俄羅斯、日本、印度等國也相繼發(fā)布其在人工智能領域的規(guī)劃和目標 。人工智能已經(jīng)成為大國競爭的新領域，各國政府都在積極推動人工智能技術在各領域的應用。與此同時，人工智能的各類問題也引起了研究者們的重視，特別是人工智能倫理、人工智能軍事化、人工智能對政府治理的影響等議題尤為突出，已經(jīng)有研究者將人工智能列為未來幾十年中人類面臨的最大挑戰(zhàn)之一 。隨著人工智能在網(wǎng)絡安全領域應用的逐步加深，越來越多的研究者也開始重視人工智能對于網(wǎng)絡安全的影響。

關鍵信息基礎設施作為網(wǎng)絡空間的基礎組成部分，其安全關乎網(wǎng)絡空間的穩(wěn)定與秩序。近年來，全球范圍內(nèi)針對關鍵信息基礎設施的攻擊呈快速增長和危害增強的趨勢：2019 年，委內(nèi)瑞拉國家電網(wǎng)干線遭到攻擊，造成全國大面積停電；2021 年，美國最大燃油管道公司被黑客勒索，導致美國東海岸能源供應出現(xiàn)問題；2022 年俄烏戰(zhàn)爭期間，烏克蘭的黑客支持者對白俄羅斯鐵路網(wǎng)絡進行攻擊，導致正常的鐵路調(diào)度無法完成。隨著數(shù)字經(jīng)濟在國家發(fā)展中的重要性不斷增強，關鍵信息基礎設施在網(wǎng)絡攻擊目標中的重要性明顯提升，攻擊關鍵信息基礎設施成為各類組織獲取非法經(jīng)濟利益、推進政治主張的重要手段。人工智能在網(wǎng)絡安全領域的應用也強烈地影響著關鍵信息基礎設施的安全，特別是由于人工智能的“賦能”效應對各類網(wǎng)絡安全威脅的賦能使現(xiàn)有的關鍵信息基礎設施安全防護體系面臨挑戰(zhàn)。

本文將對當前人工智能在網(wǎng)絡安全領域的應用情況進行梳理分析，在此基礎上根據(jù)關鍵信息基礎設施防護現(xiàn)狀，從網(wǎng)絡安全威脅的角度分析關鍵信息基礎設施面臨的挑戰(zhàn)，最后提出應對挑戰(zhàn)的對策與建議，以期為關鍵信息基礎設施安全防護工作提供理論參考。

１人工智能在網(wǎng)絡安全領域的應用現(xiàn)狀和特點

人工智能技術在網(wǎng)絡安全領域得到應用的時間并不長，但因其應用前景使得越來越多的研究者投入其中，如今，人工智能已經(jīng)是網(wǎng)絡安全領域中一個無法忽視的應用方向并形成了在其他應用領域所沒有的特點。

1.1人工智能在網(wǎng)絡安全領域的應用現(xiàn)狀

人工智能技術在網(wǎng)絡安全領域中的應用最早可以追溯到 2000 年左右，當時有國外的研究人員提出在入侵檢測中采用機器學習算法來提高檢測效率，為人工智能在網(wǎng)絡安全領域的應用提供了初始方向 。得益于過去 20 年來計算機算力水平的提高、網(wǎng)絡安全數(shù)據(jù)的積累以及各類算法的進步，人工智能在網(wǎng)絡安全領域的應用越來越多，從現(xiàn)有的情況來看，人工智能在網(wǎng)絡安全領域的應用主要集中在威脅檢測、漏洞挖掘與修復、組織和發(fā)現(xiàn)僵尸網(wǎng)絡、威脅情報識別以及繞過安全防護等方向。

威脅檢測是人工智能在網(wǎng)絡安全領域最早應用的方向之一，應用也最為成熟。傳統(tǒng)的流量分析檢測技術對流經(jīng)檢測節(jié)點的每個數(shù)據(jù)包進行檢測分析，存在資源開銷大、溯源表現(xiàn)弱等客觀問題。美國“棱鏡計劃”曝光后，國內(nèi)外網(wǎng)絡安全研究機構和廠商加快了將人工智能技術引入威脅檢測中的步伐。美國的 FireEye 公司、以色列的 Deep Instinct 公司以及國內(nèi)的 360政企安全、啟明星辰、安天等公司均在自己的產(chǎn)品中引入了人工智能技術，融合日志、流量、資產(chǎn)等信息，提高了威脅檢出效率 。

漏洞挖掘與修復一直都是網(wǎng)絡安全領域最受重視的方向之一。長期以來，漏洞挖掘和修復工作都要依賴人工進行，這限制了網(wǎng)絡安全人員對漏洞的發(fā)現(xiàn)和修正速度，給黑客及黑客組織使用漏洞進行攻擊提供了機會。2016 年，美國國防部高級研究計劃局資助的第一屆機器自動攻防大賽（Cyber Grand Challenge，CGC）揭示了人工智能加持下漏洞自動化挖掘和修復的未來。近年來，已經(jīng)有大量研究者提出將深度學習應用到漏洞挖掘中，并取得了一定的成果。

僵 尸 網(wǎng) 絡 一 直 在 隱 藏 攻 擊 者、 開 展 大 規(guī)模 分 布 式 拒 絕 服 務 攻 擊（Distributed Denial of Service，DDoS）方面扮演著重要角色。人工智能給僵尸網(wǎng)絡帶來的最大變化就是以大量物聯(lián)網(wǎng)（Internet of Things，IoT）設備為基礎，通過蜂巢網(wǎng)絡（Hivenets）和機器人集群（Swarmbots）使僵尸網(wǎng)絡中的設備從“奴隸”變?yōu)榭梢栽谝欢ūO(jiān)督下進行自主行動的機器人，極大地提高了僵尸網(wǎng)絡擁有者能夠維護的網(wǎng)絡規(guī)模以及僵尸網(wǎng)絡的擴張速度。網(wǎng)絡安全研究者也嘗試通過使用人工智能技術來實現(xiàn)為僵尸網(wǎng)絡發(fā)起的DDoS 攻擊提供早期檢測 。

威脅情報識別與利用對于現(xiàn)在的網(wǎng)絡安全愈發(fā)重要。攻擊者數(shù)量的快速增長，迫使網(wǎng)絡安全防護體系嘗試在攻擊發(fā)起之前就形成阻斷，這就是威脅情報的核心作用。然而傳統(tǒng)的威脅情報生成方法識別精度不高，普遍需要人工分析確認。人工智能能夠通過算法和模型提高人工分析的速度和準確度，進而提高威脅情報的產(chǎn)出。已有研究者提出使用神經(jīng)網(wǎng)絡來進行威脅實體的識別，并在大規(guī)模網(wǎng)絡安全數(shù)據(jù)集上取得了較好的實驗結果。

繞過攻擊對象的安全防護一直是網(wǎng)絡攻擊者的目標，人工智能通過威脅模型算法提高安全防護的同時，也給攻擊者提供了新的安全敞口和攻擊思路。例如，人工智能模型的訓練需要不斷的數(shù)據(jù)積累，攻擊者可以通過構造錯誤的數(shù)據(jù)來干擾人工智能模型的學習，從而使模型失效，也就是“中毒攻擊”。也有直接通過構造數(shù)據(jù)對算法本身脆弱性進行攻擊的例子。也有攻擊者嘗試通過人工智能來發(fā)現(xiàn)現(xiàn)有防御體系的弱點或隱藏具體攻擊行為。目前已有研究提出通過對抗神經(jīng)網(wǎng)絡來實現(xiàn)對現(xiàn)有流量監(jiān)測技術的繞過。

除此之外，人工智能在網(wǎng)絡測繪、事件響應、風險評估等方面的應用也在持續(xù)深入。

1.2人工智能在網(wǎng)絡安全領域的特點

通過對人工智能在網(wǎng)絡安全領域的應用情況進行梳理，本文認為當前人工智能在網(wǎng)絡安全領域的應用相比其他領域的應用存在技術服務化、倫理顧慮少、對抗性強等特點。

（1）技術服務化。人工智能經(jīng)過多年的發(fā)展，即使已經(jīng)比最初誕生時大幅度降低了學習和使用的門檻，但其所要求的算力、知識和數(shù)據(jù)的絕對數(shù)量依然是大部分個人開發(fā)者難以負擔得起的。在人工智能應用的幾個主要領域中，人工智能作為產(chǎn)品進行售賣時往往需要進行較多的定制才能夠貼合實際業(yè)務場景的需要。網(wǎng)絡安全領域高度單一的對抗需求使得人工智能產(chǎn)品能夠形成聚焦精準方向的應用。專注于攻擊的比通用型的人工智能應用開發(fā)更加簡單、場景更加單一，不再需要終端用戶的大量適配，可以輕松封裝成為產(chǎn)品，從而使開發(fā)者和使用者分離開來，也就是技術服務化。

（2）倫理顧慮少。人工智能的倫理問題一直是社會關切的話題，已有學者指出人工智能本身具有的特征可能在基本人權、社會秩序和國家安全上產(chǎn)生倫理風險。在網(wǎng)絡安全領域中，已經(jīng)有學者考慮到人工智能在個人信息保護中的倫理問題。但基于網(wǎng)絡安全領域本身的安全屬性，使得研究者們在新技術應用時受到的制約相對較少且缺少監(jiān)督。在自動化攻擊手段使用場景和影響、自動化滲透測試方面對從業(yè)人員的影響等相關倫理問題的顧慮和討論較少。

（3）對抗性強。網(wǎng)絡安全領域的誕生與發(fā)展是網(wǎng)絡中對抗行為的結果。當越來越多的人涌入網(wǎng)絡空間時，網(wǎng)絡空間受到的攻擊也呈指數(shù)增長。相較于人工智能在其他領域的應用，網(wǎng)絡安全領域的人工智能的根本目的在于幫助使用者在對抗中取得優(yōu)勢：眾多研究者的研究目的在于提高安全性，而攻擊者們希望突破安全防護。可以說，網(wǎng)絡安全領域的人工智能由于領域的特性，在表現(xiàn)上呈現(xiàn)出了遠超其他領域的對抗性。

２人工智能與關鍵信息基礎設施安全

威脅分析關鍵信息基礎設施安全一直是世界各國政府網(wǎng)絡安全工作關注的焦點。美國作為網(wǎng)絡技術的發(fā)源地，聯(lián)邦政府高度重視信息化建設工作。早在 1996 年 7 月 15 日就發(fā)布第 13010 號行政命令《關鍵基礎設施保護》，并于次年對關鍵信息基礎設施進行定義。1996 年，中國開始實行的網(wǎng)絡和信息系統(tǒng)等級保護制度也可以被認為是一種具有中國特色的關鍵信息基礎設施保護制度；2021 年 9 月 1 日起施行的《關鍵信息基礎設施安全保護條例》從法規(guī)上進一步完善了中國關鍵信息基礎設施安全防護體系。關鍵信息基礎設施安全防護的具體制度和措施在不同國家存在差別，但從全球主要國家的相關舉措上也可以看到，當前全球關鍵信息基礎設施安全存在著安全組織制度建設強于技術體系、基礎組件供應鏈高度同質(zhì)化、容易成為網(wǎng)絡攻擊目標等共同點。

（1）安全組織制度建設強于技術體系。由于關鍵信息基礎設施涵蓋種類多，部署地域分散等特點，建立統(tǒng)一的關鍵信息基礎設施防護體系存在技術上的難度，很少有國家形成系統(tǒng)性的關鍵信息基礎設施安全防護技術體系。更多國家是將關鍵信息基礎設施運營者組織起來形成制度化的威脅情報共享機制、事件響應協(xié)同機制，如日本的網(wǎng)絡安全信息共享、脫歐以來的英國網(wǎng)絡安全新體制等都是在組織和制度角度提高關鍵信息基礎設施的安全水平 ，像是美國愛因斯坦工程那樣覆蓋全國關鍵信息基礎設施的安全技術體系還是少數(shù)。

（2）基礎組件供應鏈高度同質(zhì)化。關鍵信息基礎設施大多結構復雜，但在全球關鍵信息基礎設施建設過程中可供選擇的軟件卻高度同質(zhì)化。特別是自 Web2.0 時代以來，越來越多的信息系統(tǒng)采用 B/S 架構，關鍵信息基礎設施采用的開源組件高度同質(zhì)。2021 年末爆發(fā)的 Apache Log4j 遠程代碼執(zhí)行漏洞以及 2014 的 Heartbleed漏洞在全網(wǎng)范圍內(nèi)造成了重大影響，大量關鍵信息基礎設施在漏洞爆發(fā)期安全承壓，甚至產(chǎn)生了應急人員不足的情況。關鍵信息基礎設施基礎組件供應鏈高度同質(zhì)化的情況可見一斑。

（3）容易成為網(wǎng)絡攻擊目標。從近年來的重要網(wǎng)絡安全事件來看，針對關鍵信息基礎設施的攻擊數(shù)量急劇增長。一方面，關鍵信息基礎設施承載國民經(jīng)濟正常運行，一旦被攻擊成功往往能讓攻擊者快速達到金錢、政治等方面的攻擊目的。另一方面，隨著網(wǎng)絡在社會中的滲透，特別是物聯(lián)網(wǎng)、工業(yè)互聯(lián)網(wǎng)的發(fā)展使得大量設備接入網(wǎng)絡空間，攻擊者能夠訪問到關鍵信息基礎設施的機會也越來越多。收益預期和攻擊敞口的變化使得關鍵信息基礎設施越來越容易成為網(wǎng)絡攻擊的目標。

當前網(wǎng)絡空間人工智能化的網(wǎng)絡攻防趨勢已經(jīng)形成，關鍵信息基礎設施安全進一步受到全面挑戰(zhàn) 。關鍵信息基礎設施長期面對有國家背景的 APT 組織、隨時爆發(fā)的高等級脆弱性以及 APT 水平的勒索軟件等威脅，人工智能在網(wǎng)絡安全領域的應用又加速了傳統(tǒng)網(wǎng)絡安全威脅的進化。結合全球關鍵信息基礎設施安全的共同點，可以認為全球關鍵信息基礎設施面臨攻擊模式自動演化、攻擊手段自動化以及攻擊者分工專業(yè)化等安全挑戰(zhàn)。

2.1攻擊模式自動演化挑戰(zhàn)

傳統(tǒng)關鍵信息基礎設施安全主要是從邊界防護的角度對整體防護體系進行設計，從理念上來看缺少對抗性?，F(xiàn)有滲透測試方法中通過構造包含大量無效數(shù)據(jù)的請求包來繞過防火墻正是防護體系缺乏對抗性的表現(xiàn)。在人工智能的背景下，攻擊者將通過人工智能快速提高對抗的次數(shù)并進行分析，實現(xiàn)攻擊模式的自動演化?，F(xiàn)在已經(jīng)有攻擊者嘗試通過生成對抗網(wǎng)絡（Generative Adversarial Networks，GAN）來模擬關鍵信息基礎設施防護體系的威脅檢測系統(tǒng)，從而讓自己的惡意代碼能夠繞過防護體系。類似的情況也發(fā)生在惡意文件檢測的繞過上。攻擊模式自動演化是人工智能給關鍵信息基礎設施帶來的最為嚴重的挑戰(zhàn)，長期來看將使關鍵信息基礎設施的安全防護體系的建設理念發(fā)生重大轉(zhuǎn)變。

2.2攻擊手段自動化挑戰(zhàn)

隨著人工智能應用門檻的進一步降低，越來越多的攻擊者開始通過人工智能技術開發(fā)自動化的攻擊手段或為原有的攻擊手段進行智能化升級。這一點在勒索軟件即服務（Ransomware as-a-Service，RaaS）和組織僵尸網(wǎng)絡上體現(xiàn)得尤為明顯。越來越多的勒索軟件和僵尸病毒通過預先設定的機器人（bot）程序在網(wǎng)絡內(nèi)自動搜索并感染設備，從而快速擴大感染規(guī)模。攻擊者只需將惡意病毒載荷進行一次有效投放，就可以自動化實現(xiàn)階段性的攻擊目的。也有攻擊者為各個攻擊節(jié)點通過人工智能增強其自主性，實現(xiàn)去中心化的自動攻擊?？偟膩砜矗羰侄巫詣踊环矫婕涌炝斯舫晒髷U大影響的速度，另一方面延后了攻擊暴露的時間節(jié)點，對關鍵信息基礎設施安全響應的速度提出了更高要求。

2.3攻擊者分工專業(yè)化挑戰(zhàn)

早年的網(wǎng)絡攻擊者進行網(wǎng)絡攻擊的目的較為多樣，以炫技、出名為主要目的的攻擊者并不在少數(shù)，往往一個人承擔了網(wǎng)絡攻擊的全部環(huán)節(jié)。隨著數(shù)字經(jīng)濟的發(fā)展，越來越多的攻擊者開始專注于非法利潤的獲取，對于攻擊工具更高的要求以及突破越來越多的安全防護策略使攻擊者逐漸產(chǎn)生分工。人工智能在網(wǎng)絡安全領域技術服務化的特點進一步加速了這一進程。網(wǎng)絡攻擊者中的研發(fā)人員可以更快地將更高級的工具封裝好提供給購買供給服務的人，關鍵信息基礎設施安全則受限于產(chǎn)業(yè)中人才的缺乏等因素，無法實現(xiàn)同樣速度的防護技術更新。

３關鍵信息基礎設施應對挑戰(zhàn)建議

有效應對人工智能對全球關鍵信息基礎設施安全形成的挑戰(zhàn)，需要從系統(tǒng)角度全面考慮?，F(xiàn)有研究大多集中于技術層面，對人工智能帶來的全方位挑戰(zhàn)的重視度不夠。通過上文的分析，本研究認為全球關鍵信息基礎設施應對人工智能帶來的安全挑戰(zhàn)需要從構建智能化防護體系、縮短發(fā)起響應的時間以及培養(yǎng) AI+ 網(wǎng)絡安全人才等方面做起。

3.1構建智能化防護體系

建設關鍵信息基礎設施安全防護體系一直是保障關鍵信息基礎設施安全的重要舉措。面對自動演化的攻擊模式，需要對關鍵信息基礎設施的安全防護體系進行全面的智能化改造。

除當前已經(jīng)廣泛采用的基于人工智能的流量檢測外，關鍵信息基礎設施安全防護體系智能化還可以從以下幾個方面進行。一是加強人工智能在輔助決策方面的應用，將有限的安全運營人員從快速增長的大量攻擊中解放出來，專注于處理真實、高等級的攻擊，提高防護效率。二是采用多元化的威脅分析算法及模型，形成現(xiàn)有防護體系的聯(lián)動，如通過建設智能化的網(wǎng)絡安全運營中心，為低智能的安全設備賦能，整體提升防護體系的智能化水平。三是主動采取生成對抗網(wǎng)絡、遺傳算法等人工智能技術對現(xiàn)有防護體系進行測試，從而智能化地補充防護體系的安全策略。

3.2縮短發(fā)起響應的時間

在網(wǎng)絡安全領域，包以德循環(huán)（OODA）是由 Observation（觀察）、Orientation（判斷）、Decision（決策）、Action（執(zhí)行）4 個單詞的首字母組合得名，常用于描述對從發(fā)現(xiàn)到響應網(wǎng)絡攻擊的過程。應對自動化的網(wǎng)絡安全攻擊手段，關鍵是縮短 OODA 中各環(huán)節(jié)的時間。當前較為有效的方法是大量部署基于云端數(shù)據(jù)的終端檢測 與 響 應（Endpoint Detection and Response，EDR）系統(tǒng)并提高威脅情報的作用。

一方面，EDR 系統(tǒng)作用于網(wǎng)絡攻擊的控制、利用階段效果顯著，能夠幫助關鍵信息基礎設施的安全運營者及時發(fā)現(xiàn)存在異常行為的終端，加快發(fā)現(xiàn)已經(jīng)成功的網(wǎng)絡安全攻擊的速度。另一方面，準確迅速的威脅情報能夠幫助關鍵信息基礎設施安全防護體系及時啟動并完成有關研判，能夠大幅度提高安全策略的修改速度，縮短安全運營人員針對特定網(wǎng)絡安全攻擊發(fā)起響應的時間。

3.3培養(yǎng) AI+ 網(wǎng)絡安全人才

關鍵信息基礎設施安全離不開專業(yè)人才的支持。面對越來越多的封裝好的人工智能攻擊工具，需要有更多具有人工智能學科背景的研究人員進行人工智能攻防技術的研究，從而研發(fā)出更有效的網(wǎng)絡安全防護產(chǎn)品。關鍵信息基礎設施運營者應該積極參與 AI+ 網(wǎng)絡安全人才的培養(yǎng)，提高人才數(shù)量和質(zhì)量，加快網(wǎng)絡安全相關人工智能技術的研發(fā)和應用，賦能關鍵信息基礎設施安全防護。特別是關鍵信息基礎設施每天面臨著數(shù)量眾多的網(wǎng)絡攻擊，運營者掌握著大量寶貴的真實攻擊數(shù)據(jù)，通過和研究院所、企業(yè)等人才培養(yǎng)實體的合作，這些攻擊數(shù)據(jù)可以在培養(yǎng) AI+ 網(wǎng)絡安全人才的過程中發(fā)真實場景構建、威脅數(shù)據(jù)建模等作用，提高人才培養(yǎng)效率。

4結語

關鍵信息基礎設施對于全球各國的社會經(jīng)濟穩(wěn)定與發(fā)展都有著重要意義，關鍵信息基礎設施安全也因此受到越來越多的重視。人工智能對于當前全球關鍵信息基礎設施形成的挑戰(zhàn)是普遍且深刻的。面對人工智能帶來的攻擊模式自動演化、攻擊手段自動化、攻擊者分工專業(yè)化等挑戰(zhàn)，需要加快構建智能化防護體系、縮短發(fā)起響應的時間并積極參與培養(yǎng) AI+ 網(wǎng)絡安全人才，持續(xù)保障關鍵信息基礎設施安全。

審核編輯 ：李倩