歷史上每一次工業革命都會助推強國崛起，引發國力轉變，重塑世界格局。人工智能（AI）技術的發展應用同樣正在孕育著一場革命，為我國提供了重大歷史機遇。“搶抓機遇，乘勢而上”已成官商學界的高度共識。而世界大國對人工智能安全問題的擔憂則要比過去歷次科技革命的利害權衡都更為深入、廣泛和尖銳。在發展人工智能的全球競爭中能否成為這一新興技術的引領者，很大程度上取決于對“發展與安全”問題的了解、認識和應對。

一、充分了解人工智能技術隱含的安全風險

人工智能是典型的軍民兩用技術，利弊并存，其智能化程度越高，雙刃劍特征就越突出。已故的英國科學家斯蒂芬·霍金教授認為人工智能可能會毀滅人類，直接將“能否掌握對人工智能的控制權”這一拷問，提到人類戰略的高度。目前，世界各國在競相發展人工智能的同時，都高度重視其安全風險。政界、軍界、產業界和智庫密集討論其對國家安全和國際秩序的威脅與挑戰。歸結而言，人工智能技術應用的安全風險突出體現在三個方面：

一是國家安全風險。人工智能技術使機器擁有越來越高級的智能，力圖突破人力的局限，甚至改變人類與技術的深層聯系，給國家發展帶來深層變革，其“威力之大，堪比核武”，被公認是“對國家安全帶來深刻變化的顛覆性技術”。如果管控不當，將直接影響政治、政權、經濟、金融、網絡、文化等國家重要行業和核心領域的安全與穩定。各主要大國在國家安全戰略和科技發展戰略等重要文件中均特別強調對人工智能危及國家安全的擔憂：一是擔心對這一新興戰略能力的缺失。普遍認為，新一代人工智能會成為重要的戰略威懾力量，類似于“擁核自重”。不在人工智能上占據制高點，就難以在未來的國際舞臺上掌握主動權、擁有話語權。2018年4月，蘭德公司發布報告《人工智能對核戰爭風險的影響》指出，到2040年人工智能有可能顛復核威懾戰略的基礎。二是擔心對人工智能技術濫用的失控。人工智能這種賦能極強的技術手段獲得容易，管控極難，濫用門檻極低，容易落入極端個人或犯罪團伙之手，會給政權安全和社會穩定帶來重大威脅。三是擔心對人工智能應用中重大安全風險的失察。人工智能技術應用推廣隱含著諸多不確定性，近年在西方政治中出現的利用大數據分析和社交平臺部署“機器人水軍”達到“網絡干預選舉”的口水仗和劍橋分析公司利用人工智能等技術操控選民意見和行為的曝光，彰顯出新的政治安全風險。沒有預測、預警和預防能力，智能化時代的系統性、災難性風險在所難免。

二是軍事安全風險。兩用技術，最受軍方的青睞。一方面，越來越多的國家試圖研發“致命性自動武器”，而個人或非國家行為體則越來越容易獲得這種“四兩撥千斤”的“遠程精確打擊能力”“機器自動殺人”可能不再是科幻。另一方面，有的國家或非國家實體可能將商業團體開發的工業機器人轉化成接近實用的“機器人戰士”。更值得關注的是，西方軍界對智能化武器裝備、戰場戰法、戰爭理論等的研究越來越多，且日益深入，引發有識之士的普遍擔憂。以至于特斯拉創始人馬斯克等來自26個國家的116名專家去年聯名致信聯合國，強烈呼吁制止“智能武器”的軍備競爭，將其納入國際公約的管制。今年四月初，30個國家和地區的50多名專家學者聯合抵制韓國科學技術院與軍工企業合作的機器人武器研發項目。英國政府的一份報告明確表示：永遠不能給人工智能系統傷害人的權力。

三是社會安全風險。人工智能技術的創新和推廣，將不斷突破現有法律法規、社會規范和道德倫理的限制，直接給社會生活帶來多維度的安全挑戰。一是智能社會的經濟生產與生活模式高度自動化，具有智能的機器對傳統人工的替代在解放人力勞動者的同時，直接帶來對就業的沖擊，給本來就存在就業壓力的發達國家帶來社會風險。尤其是人工智能越來越多地應用于大數據環境下的決策，由于機器系統無法像人那樣解釋或合理化其所作的決定，所謂的“算法偏見”會帶來更為復雜的社會問題。二是當智能技術無處不在，萬物互聯成為常態，大量的個人隱私會直接暴露給智能設備，構成日益尖銳且相當普遍的網絡信息安全問題。三是人工智能主要靠軟件與算法驅動，而軟件與算法皆是人為編寫，難免出現技術漏洞和人為缺陷。人工智能與物聯網的深度融合，使得智能產品成為網絡攻擊新的風險點和突破口。人工智能既普遍又敏感，正用反用，存乎一念，善惡之間，天壤之別。美國有研究表明，虛設假場景、偽造音視頻會直接引發股市動蕩、***和社會危機。在近兩年的世界黑客大會上，具有人工智能的“神器”“殺器”紛紛亮相。聯合國曾召開“人工智能向善”大會，專門討論技術標準、安全規范和道德倫理等問題，以防機器人作惡，表達了國際社會的集體焦慮。近期，谷歌公司3100多名員工聯名抗議為五角大樓開發相關高端人工智能技術，也是這種社會憂慮的反應。

二、辯證認識人工智能應用面臨的安全問題

回顧人類文明史，在利弊并存的技術革命和社會創新面前，人類總能憑借自身的智慧探索出一條趨利避害的發展道路，從而在適應發展、改造自然的進程中化險為夷，轉危為安。相對前述多方面的風險隱患，新一代人工智能帶給人類的發展機遇更為現實和明顯。隨著計算能力的提高，大規模數據的積累和學習算法的進步，人工智能正在重塑我們的世界、社會和生活。日新月異的人工智能應用不僅使我們的生活更加便捷和高效，而且能為我們應對和解決重大社會性、全球性難題提供新的方法和手段。尤其重要的是，人工智能的發展將給全球帶來巨大的經濟發展機會。普華永道2017年的一項研究表明：在人工智能技術的推動下，2030年全球GDP將增長14%，相當于15.7萬億美元。發展與安全的利害關系，不言而喻。回顧我國近代史，在多次重大的世界性技術變革面前，由于在風險感知、安全預判上的糾結與失據，讓我們痛失多次歷史發展機遇，留下苦澀的遺憾。四十年的改革開放生動地證明了“發展是硬道理”，也辯證地揭示了“不發展是最大的不安全”。因此，對人工智能發展中面臨的安全問題，應當要有辯證的認識。

首先，要樹立科學的安全觀念。要立足發展講安全，權衡利弊講安全，防止安全問題絕對化的認識和安全風險擴大化的傾向。不能讓安全問題成為發展路上的攔路虎和絆腳石，而是要以有效的法律法規、管理手段和技術措施主動應對，讓安全保障成為確保發展的底板和墊腳石。只有對安全問題有了全面科學的認識，才會不糾結、不懼怕，才敢張開雙臂擁抱人工智能技術，才能緊緊抓住這一歷史機遇。

其次，要確立有效的治理策略。從蒸汽機到電力，從計算機到網絡，任何一項技術創新都經歷一個從不完善到完善，從不可控到可控的過程，其中的治理之道基本上應了“兩利相較取其重，兩害相較取其輕”的古訓。因而是發展在先，治理在后，只是隨著時空關系的變化，發展與治理的時間差在不斷縮短，直到近十年的互聯網發展，我們仍然走的是先發展后治理的路子。實踐表明，由于技術發展太快，應用涉及太廣，作用影響太大，對于顛覆性超強的新興科技，治理滯后越來越顯得力不從心。而對新一代人工智能的自主、智能和自適應等鮮明特征，發展與治理并舉的緊迫性更加凸顯。歐美各國均在人工智能發展戰略中同步考慮安全管控和風險治理，加大了對安全問題的研究力度和安全措施的投入強度，為有效把控安全風險預作準備。這是處理應對顛覆性技術帶來的安全風險的新動向，值得我們重視和借鑒。在新一代人工智能的發展中要做到趨利避害，就必須不回避安全挑戰，以科學的態度，務實的精神，同步考慮和解決安全保障措施，為人工智能又好又快地發展提供可靠的安全保證。

再次，要建立良好的社會環境。良好的社會環境是科技創新最好的土壤，任何技術進步和科技創新都是有成本的，要享用人工智能帶來的發展機遇，就要為其可能帶來的社會變革付出代價。政府、企業和公眾都要有為人工智能發展付出成本的心理準備。人工智能應用越廣，這個問題會越突出，我們不僅要在人工智能技術的研發、試驗和推廣應用中包容失誤，寬容出錯，而且要在安全保密的文化和觀念上走出 “絕對安全”的認識誤區，避免條件反射式的監管沖動，靠發展化解隱患，以動態管控風險。

三、有效應對人工智能發展提出的安全挑戰

我國已正式發布新一代人工智能的發展規劃，憑借規模龐大的市場和技術應用優勢，堅持發展這個硬道理，抓住創新這個牛鼻子，我們就能搶占先機，獲得主動。在安全管控這個關鍵問題上，只要堅持發展與治理并舉，趨利避害，就可以走出具有中國特色的一條新路。

（一）強化戰略引領，發揮體制優勢，爭取技術領先。一是在總體國家安全觀的指導下，完善人工智能發展戰略，尤其要充分考慮新一代人工智能技術的新特點和應用的新領域，處理好發展與安全的辯證關系，同步布局、設計和安排與安全相關的工作內容。二是面向國防、安全等國家戰略需求，統一建設人工智能國家實驗室、安全風險測評基地、模擬試驗場等技術基礎設施。防止各行業、各部門一哄而上，重復投入，避免同質競爭造成資源浪費。三是設立重大科技專項，研發人工智能積極防御關鍵技術，搶占戰略制高點，提高國家在該領域的核心競爭力。

（二）強化軍民融合，推動商業應用，促進創新發展。一可增加人工智能安全相關的基礎研究投入，針對我國在交通、醫療、金融、教育、智慧城市、工業控制等方面大規模人工智能的應用需求，研究有針對性的安全技術，促進原始創新。二可將人工智能商業應用創新作為軍民融合的重要內容，激發技術創新和成果轉化，鼓勵科研成果的實際應用，在應用中改進，在改進中完善和提高，形成良好的產業生態。三可支持跨部門、跨界的數據共享和業務配合，推動機制創新，讓我國的信息化紅利、網絡化紅利和大數據紅利有效轉化成人工智能發展與應用的直接動力。

（三）強化安全治理，提高防范能力，管控重大風險。一宜結合深化改革，明確人工智能安全治理的責任部門，防止“九龍治水”，政出多門，減少企業經營負擔和公眾政策困擾。二宜與國家人工智能發展戰略相適應，持續加大投入力度，著力建設防故障、防干擾、防破壞、防控制等技術標準、治理體系和治理能力，努力躋身人工智能強國之列。三宜貫徹人類命運共同體理念，支持科研團體、專家學者、企業廣泛開展國際合作，主動搭建人工智能國際合作平臺，積極參與國際標準和規則制定。針對機器人異化和安全風險管控、治理等重大國際共性問題，加強研究，提出中國方案，貢獻中國智慧，發揮中國作用。