人工智能領域涉及的安全問題較多，如國家安全、社會安全、人的安全，還包括一些倫理問題和隱私問題。人工智能主要是基于信息基礎構建的一些應用，它離不開信息的采集、存儲、分析、傳播。同時，人工智能領域的思想、方法、理論對信息安全也有很多的應用。

1、信息安全的基本要求

******曾經說過，沒有網絡安全就沒有國家安全，沒有信息化就沒有現代化。這充分表達出了信息化與現代化、信息安全與國家安全的關系。同時，從新技術，比如“互聯網+”、物聯網、云計算、大數據到區塊鏈等新技術的進一步發展，都要以信息技術為引導，人工智能也是如此，通過一系列技術的創新，最終才能真正發展國家經濟，提升國家綜合實力。從這個意義上說，沒有信息化就沒有現代化，包括人工智能在內的新技術的發展，都需要以信息技術為主導。

信息化是一個雙刃劍，帶來很多便利的同時，也出現了很多安全問題，因此應當把信息安全提高到國家安全重要組成部分的高度。保密性、完整性、可用、可控和不可抵賴性是信息安全的五個基本屬性。信息安全要實現的目標是，對信息的使用和處理均經過所有權人的授權、嚴格按所有權人要求、真實地順暢地合理地進行。要經過所有權人授權，主要是指身份識別問題，身份是有所有權的，要經過授權對信息進行使用；在使用中是可讀、可寫還是可改，就需要按照授權人的授權要求進行；真實指信息的使用要真實，不是經過篡改或者偽造的，要保證其真實性；順暢是指在信息使用過程中，能夠保證信息系統能夠正常使用；合理性就是要理性使用，主要是對信息的管控，如要對有害信息進行有效治理。

信息的采集、傳輸、存儲、管理以及信息的處理和使用等環節中，都會涉及到安全問題。

信息采集主要是指控制問題，如是不是按照真實情況進行采集？采集數據過程中是不是是否嚴格遵守規定？

信息傳輸中要有效地進行保護，做好保密工作，要保證它的真實性不被篡改，保證傳輸過程的可靠性，能夠抗干擾。

信息存儲和管理，強調的是真實性和保密性，不會被篡改，不會被濫用。以后，很多的信息都會放在云上面，那么要如何保證個人信息的安全呢？要知道云的管理者是不可信的，每個用戶的信息對他也要進行保密，因此說云的安全或大數據的安全，只是指存儲和管理方面的安全。

那么在信息處理和使用中，就會存在另外一個問題，就是怎樣進行身份識別和權限的有效管理？最后，處理的結果要進行簽名，保證它的真實性，同時可以對信息使用的整個生命周期進行追溯。

總之，信息安全不僅僅是在于信息本身的安全，信息的作用也不僅僅只是針對設備而言，它甚至延展到了人的身上，因此提高信息的安全性顯得尤為重要。

2、人工智能應用的信息技術體系

當前社會引發了一輪又一輪的人工智能熱潮，很多都是由于數據驅動，正是在云計算、大數據等技術的發展下，人工智才有了一次又一次的飛躍。所以數據的安全、信息的安全貫穿著人工智能應用的過程中。

人工智能大體分為幾個層面。

（1）感知層，各類傳感器采集各類信息，也就是信息的采集，這涉及到很多安全問題。

（2）傳輸層，采集過程要進行處理，進行反作用，靠的是基礎網絡，涉及到傳輸過程的安全。

（3）數據層，可能進行數據匯聚，通過大量數據的分析和協同，來產生新的知識和價值。

（4）應用層，也就是服與控制，提供服務，對終端進行反控制，類似一個循環吧，一個有機的循環回路。

3、人工智能應用的安全需求

人工智能的每一層都涉及到安全問題和數據安全問題。在身份識別認證中，人和設備是不是可信的，是不是有正當權限的人和設備。數據保護中，不管是傳輸還是存儲過程，都要保證數據的可控性、真實性和可追溯。如果數據在傳輸或存儲過程中被篡改了，那到最后通過算法推導出的結果，也必然是不真實和不可信的。

但在這個過程中也存在一個問題，保證數據能夠進行有效地匯聚，既要保證數據所有者的權益，同時又能夠通過這種大數據的匯聚產生價值，在可控的范圍之內，這里的安全問題也是現在研究的重點和難點。

4、人工智能應用的安全建設

安全問題在重視應用的同時也要考慮到安全和應用建設的同步發展。

政府要主導，在人工智能應用中深入分析安全需求，進行頂層的設計，提出安全要求；加強安全制度建設，建立安全準入制度和檢測評估方法、機制。

企業應該從感知、傳輸、分析協同、服務控制等方面建立一些安全標準。同時既要重視機制的保障還要重視技術的保障，使人工智能的應用和網絡安全建設同步發展。

5、需要關注的網絡安全技術

（1）身份識別和生物特征識別。身份識別的核心是密碼技術，但對于輕量級設備、便攜的智能設備而言，它們的計算能力還較弱，使用成熟的密碼技術會存在一些問題，這需要對原來的身份識別進行改造。生物特征識別也是如此，目前的生物識別技術還沒有建立一個安全的邏輯鏈條。

（2）移動安全。現在各種智能應用的終端主要以手機為主，手機與PC機相比更不安全，因為手機更便捷、成本低、更新快，所以安全隱患更多，更難解決，建立體系建立難度更大。

（3）大數據安全。大數據安全比一般意義上的云安全難度更大，云安全主要是用戶信息是放在云上，僅供用戶使用，同時云的管理者是不能看到用戶的信息。而大數據安全相對來說更加復雜，它是將很多用戶的數據都放在云上，將不同用戶的信息進行融合處理，每個用戶需要自己進行加密，否則無法保證數據的安全，但是加密之后如何讓其他人使用，或在一定限度內實現共享，既要加密保護，又要能夠有效地進行數據的融合和利用，這是很難解決的問題，同時也涉及到加密檢索，保證數據的完整性，安全的計算外包。

（4）系統脆弱性。目前網絡攻防態勢非常嚴峻，主要就是是利用信息系統，要知道現在的信息系統還不完善，具有脆弱性，將來人工智能應用也是一個程序、一段代碼，如果出現嚴重漏洞，就會被惡意代碼取得它的控制權，帶來極大的危害，所以系統的脆弱性也是網絡安全非常重要的問題之一。

6、網絡安全中的人工智能

人工智能在網絡安全領域也得到越來越多的應用，它在主動安全防護、主動防御、策略配置方面發揮的作用越來越大，但是當前仍舊處于探索階段。比如基于神經網絡，在入侵檢測、識別垃圾郵件、發現蠕蟲病毒、偵測和清除僵尸網絡設備、發現和阻斷未知類型惡意軟件執行等方面進行了大量的探索；基于專家系統，在安全規劃、提高安全運行中心效率、量化風險評估、威脅情報等方面也做了很多探索，收到了良好的效果。

人工智能技術的蓬勃發展，也必然對網絡空間安全帶來重大的機遇和挑戰。