自2016年人工智能圍棋AlphaGo擊敗李世石以來，新一輪人工智能熱潮以的態勢席卷世界。在各國紛紛提出人工智能發展規劃和戰略的同時，人工智能的倫理風險與治理也成為全球共同關注的焦點。在全球范圍內，人們對人工智能前景的認知明顯地呈現出兩極化——一方面對其可能極大促進經濟社會發展的預期興奮不已，另一方面對其可能帶來的破壞民生等危害與風險愈益擔憂。在亞洲，盡管在公眾認識和法律層面對于隱私、數據權利、歧視等相關價值訴求和權利界定不甚明確，倫理與治理框架也尚未系統構建，人工智能創新與應用卻十分迅猛，這一張力使人工智能發展中的價值沖突與倫理抉擇變得更為突出。

國家人工智能戰略優先事項的熱圖

“亞洲人工智能議程”是《麻省理工技術評論洞察》研究項目，2019年7月發布的這份題為《亞洲人工智能議程：人工智能倫理》的報告作了較為客觀的評述。該報告是其“亞洲人工智能議程”系列報告中的一種，報告基于對包括871位高管在內的亞洲人工智能生態系統內外人士的調查與采訪，其洞察大致體現了亞洲人工智能倫理議程的當下發展與未來態勢報告，對亞洲與全球人工智能倫理與治理框架的進一步反思及構建具有較大的參考價值。

亞洲立場下的人工智能倫理與治理

近30年來，在追趕信息通信技術和網絡數字技術的過程中，亞洲地區成為全球科技進步快的區域。如今，在邁向全球人工智能發展的快車道上，亞洲無疑比四分之一個世紀之前擁抱互聯網時更為主動和自信。面對這一波的人工智能熱潮，曾以新興科技帶動社會發展的經驗，再加上經世致用和民生優先的文化傳統，使亞洲地區的政府和企業對人工智能的基本立場更為樂觀，也更具實用主義色彩。從這一立場出發，不僅亞洲人工智能生態系統的成員對人工智能的好處充滿信心，而且在整個社會也自然地形成了相對有利于人工智能探索的制度文化環境。

但我們應該看到，人工智能的倫理風險并非虛構，數據分析、內容推薦、人臉識別等應用直接涉及和影響到人的身份和行為，相關技術的濫用對人造成的危害和負面影響將遠遠大于傳統的網絡與數字技術。如果不加反省地固守這一立場，人工智能對社會和個人造成的潛在威脅往往容易被忽略或無視，由此所引發的倫理風險，既得不到事先防范也難以事后糾正，終非但會釀成嚴重后果，還會破壞整個社會對人工智能的信任，打擊普通公眾對發展新興科技的信心。報告對這一立場下亞洲人工智能倫理和治理中的問題作了較為深入的剖析。

首先，亞洲對人工智能的樂觀主義與實用主義的立場，給人工智能倫理和治理帶來了巨大挑戰。報告指出，盡管亞洲的商業與人工智能生態系統的參與者已認識到人工智能應用可能帶來潛在倫理風險，但在總體上對于人工智能為經濟、社會、企業和個人福祉帶來的積極影響更加樂觀。由此帶來的問題是，“來自亞洲的戰略在倫理方面的優先級相對較其他地區低”，甚或“在亞洲使用人工智能的偏見可能更為嚴重”。針對這一問題，有人可能會提出應該強調倫理優先，但實際上不一定要將創新與倫理對立起來；倫理是不是應該得到優先考慮，取決于具體的技術應用對相關群體的負面影響及其嚴重程度。因此，有效克服這一問題的關鍵在于：一方面，技術監管者應該要求企業對技術應用在相關群體中造成的負面影響展開預見性的倫理評估，進而對其加以矯正；另一方面，應該通過建設性與參與性的倫理評估，使可能因技術應用而受到嚴重負面影響的相關群體參與到相關的倫理評估、爭論與矯正等環節之中。

其次，亞洲人工智能倫理和治理的大挑戰在于，如何以包容審慎的監管實現倫理與創新的協同。報告指出，雖然亞洲人工智能生態系統中的企業等居于主導地位的利益攸關者對人工智能倫理進行了激烈的辯論，并認為政府應該主導對人工智能的監管，但多少有些矛盾的是，他們又希望相關政策、框架和監管應審慎行事，“而不能扼殺創新”。針對這一問題，不應錯誤地將倫理上的相對寬松視為創新的“倫理優勢”，而應該認識到，對于那些具有高度價值敏感性的人工智能應用，應該努力尋求一種將倫理價值融合到技術之中的復合創新，從而使創新與倫理相輔相成、協同并進。根據這一思路，在內容推薦中，一些企業已經開始通過對算法推薦的一些不良內容的識別與抑制打破“信息繭房”；為了應對人臉識別技術的濫用，出現了隨機換臉等許多旨在保護隱私的對抗性設計。實際上這種道德敏感設計——將倫理道德內置于技術設計的做法很早就有，十多年前卡內基梅隆大學就有研究者通過設計的軟件幫助人們堵住網上的隱私漏洞。由此可見，人工智能的倫理和治理可以貫穿于人工智能創新應用的全過程，為了實現倫理與創新的協同，要將其背后的價值觀轉換為技術層面的目標與需求。

其三，亞洲試圖以信任機制的建立而不是執法框架的構建作為人工智能倫理與治理的突破口。報告強調，盡管亞洲各國政府和企業正在更加積極地為人工智能行業的倫理發展制定目標和指導方針，但迄今為止尚無監督或執行機制。亞洲的政策制定者既不試圖直接解決倫理問題，也不為之提供法律支持和追索權，轉而訴諸消費者、人工智能用戶和人工智能開發商之間的信任，以使整個行業得到發展。毋庸置疑，持續的信任機制的構建要求人工智能必須以一種負責任和透明的方式發展。在當前的人工智能涉及大量數據驅動的智能應用，其中所涉及的與人相關的數據反映了人格特征、行為方式和具體行為，企業必須就如何恰當地收集、使用和共享數據與客戶及利益攸關者展開溝通，才可能避免用戶的疑慮和不信任，使創新與應用有序地展開。

12種新興技術的感知效益和負面后果

構建切實可行的人工智能倫理與治理框架

近二十年來，發展迅猛且具有高度不確定性的新興科技不斷涌現，由此產生了人工智能、物聯網、基因編輯等可能對經濟社會與人類未來造成根本性、深遠性、普遍性影響的顛覆性技術，如何針對人工智能等技術構建切實可行的倫理與治理框架無疑是各個地區與國家所必須面臨的大挑戰。對此，既沒有佳答案，也沒有統一標準。但透過這份報告中所匯集的諸多經驗與智慧，我們無疑可以獲得諸多構建這一框架的有益線索。

一是要對人工智能可能造成的社會影響進行更加深入系統的研究，在此基礎上構建起考慮到壞情形的社會風險防范機制。其中為重要的問題是人工智能對就業的影響。在報告中，盡管亞洲的商界普遍認為，人工智能驅動的失業困擾將被人類工作的潛力所抵消，但根據與該報告同系列的“人工智能與人力資本”的報告也指出，“人工智能將影響到每五個亞洲工作崗位中的一個，而自動化將淘汰八分之一的工作”。后者還發現，建立在勞動密集型工業和服務業基礎上的新興亞洲經濟體的勞動力“可自動化”的比例較富裕國家更高；而且那些受到人工智能威脅的低技能職業階層再培訓和再提升技能的能力更弱。這些分析表明，在人工智能生態系統對未來普遍樂觀的情況下，政府所主導的人工智能倫理與治理框架必須看到壞的情形，充分考慮到可能被智能機器替換的勞動力的出路，以此避免人工智能的顛覆性發展帶來新的社會不平等。

二是要從文化出發構建一種兼具區域性與全球性的人工智能倫理與治理體系框架。報告中頗有洞見地指出，由于在表達倫理的“正確”方式上存在著巨大的文化差異，人工智能倫理與治理并沒有“全球性”。毫無疑問，人們對人工智能的不同態度確定了不同區域與社會發展人工智能的不同方法和旨趣。以前衛的性愛機器人為例，具有神道教傳統與豐富的人偶文化的日本可能更容易接受其研發與應用。在未來的無人汽車等智能無人系統中，個人主義與集體主義等不同社會主流價值導向也會在一定程度上影響機器的價值取向和倫理抉擇。因此，文化和價值觀上的可接受性是構建人工智能時代的人機信任和人機和諧的關鍵所在。

但與此同時，必須指出的是，人工智能的發展必然會加速推進更深層次的全球化，區域性的人工智能倫理與治理不僅要具有局域的適切性，還應該建立起通達全球治理的機制。在中國的《新一代人工智能發展規劃》中，不僅設想通過人工智能提高社會管理能力，還承諾對隱私與知識產權、信息安全、問責、設計倫理等展開研究，并積極參與全球治理。在此過程中，如何講清區域性倫理與治理框架的核心價值取向和倫理訴求是關鍵，不論在什么文化和社會主流價值觀下，都必須對人工智能時代的隱私、尊嚴、個人權利等基本的倫理與法律概念做出明晰與合理的詮釋，都要對數據的采集與使用、智能系統對人的行為的影響與干預的限度做出合乎倫理與法律的準確陳述。而對這些問題的深究終所涉及的與其說是價值和倫理問題，毋寧說關乎更大社會歷史背景與文化語境下的社會政治抉擇，這就使得區域性的人工智能的倫理與治理框架之間的對話成為其整合為全球性治理架構的難點和關鍵所在。

三是要在構建人機和諧的未來的同時確保人類和平這一文明底線。在我們試圖通過人工智能發展構建人機和諧未來之時，應該認識到人與機器的關系實質是人與人以機器為中介的關系，對人工智能等技術的倫理規制和治理的關鍵是避免其對人作惡。因此，人工智能的倫理與治理要對人工智能的惡意使用和軍事運用等負面用途加以必要的法律管制、倫理規制全球治理。隨著深度造假等技術的發展，人工智能的惡意使用會越來越大，如果不加以及時的法律管制和倫理規制，必將極大地破壞整個社會對人工智能等顛覆性技術的信任，影響其有益的創新與應用。

同時，應該看到，人類科技文明發展的悖謬之處恰恰在于包括計算機、互聯網和人工智能在內的很多顛覆性的技術與軍事對抗和國家競爭密切相關。我們必須承認，在這一波的人工智能熱潮背后，或明或暗地存在著人工智能軍備競賽的陰影，無人機以及大規模智能自動武器系統等人工智能的軍事應用，將對人類文明的未來造成的威脅，必須得到有效的控制和全球性的治理。

結語：走向敏捷的人工智能倫理與治理

2019年6月17日，國家新一代人工智能治理專業委員會發布了《新一代人工智能治理原則——發展負責任的創新》，提出了“和諧友好、公正公平、包容共享、尊重隱私、安全可控、共擔責任、開放協作和敏捷治理”等八項原則。其中的敏捷治理強調，應在人工智能的發展中及時發現和解決可能引發的風險、推動治理原則貫穿人工智能產品和服務的全生命周期、確保人工智能始終朝著有利于人類的方向發展。而實現這一原則的關鍵在于切實將人工智能發展中的所有相關利益群體的認知納入人工智能倫理與治理的各個環節，以此形成多相關方的對話與共識機制，實現從微觀到宏觀的反饋、修正與迭代，終推動人工智能的未來沿著合乎人性的方向和諧發展。