無人駕駛、人臉識別、智慧城市、智能家居等各類場景中都在運用AI，但一旦后端控制系統被攻擊，出現規模化、連鎖式的崩盤，AI失控的后果不堪設想。近日，阿里安全專家表示，“安全AI會成為未來網絡安全問題的新解法，將在2019年迎來爆發期。”

“AI發展趨勢是一定的，但AI應用來解決安全問題時并不能生搬硬套，需要根據實際場景進行AI的技術升級，”阿里安全圖靈實驗室負責人奧創表示，在大量的AI技術落地之前，安全AI需要引起足夠的重視才能從源頭上防范更多的風險。

奧創解釋，安全AI是指安全場景中進化出的AI，擁有更強、更多元化的能力，與當前通用AI的理念不同，其更注重在業務安全領域垂直縱深的技術積淀，開發出適應更多安全場景的新一代AI，讓傳統的安全問題找到新的AI解法。

基于問答技術、知識圖譜和對抗樣本等技術，阿里安全近日研發出新一代AI驗證碼，通過AI挖掘生活常識類信息作為問答題庫，并對原始圖像有針對性的加入干擾，使得人眼識別不受影響，但會顯著降低黑產AI打碼的成功率。

基于安全AI理念，阿里安全圖靈實驗室推出的AI鑒黃師可識別圖片、彈幕、語音等多維度信息。

“知識圖譜、多源網絡、對抗樣本等構建出更強、更安全的AI技術能力，可以有效防范攻擊，降低風險”。奧創舉例，用AI判定互聯網平臺上對于違規視頻的判定，除了計算機視覺技術之外，加入了語言、語音等多源網絡的設計，比如視頻畫面、視頻中的語音、彈幕和交互信息等多個維度。

奧創認為，2019年將是安全AI的爆發之年，針對安全場景的AI設計，極限數據情況下的模型訓練、實現不同業態與場景下的模型遷移、決策場景下的模型可解釋性、強對抗場景下的模型安全性這四個方向將非常值得探索。

“歐盟剛剛出臺《人工智能道德準則》，明確提出AI的發展方向應該是‘可信賴AI’，包含安全、隱私、透明等多個方面，AI應用正在成為一個社會問題，如何解決已經成為各界共同關注的話題。”奧創說。