小學(xué)生用照片攻破豐巢人臉識(shí)別系統(tǒng)、自動(dòng)駕駛汽車失控撞人、AI換臉讓你一秒成為黃片主角……隨著人工智能技術(shù)的快速發(fā)展、普及和應(yīng)用，隨之而來(lái)的安全、倫理等問(wèn)題也引發(fā)普遍擔(dān)憂。

“人工智能安全作為人工智能研究和產(chǎn)業(yè)化應(yīng)用的重要組成部分，應(yīng)推動(dòng)政府、學(xué)術(shù)界和產(chǎn)業(yè)界進(jìn)行更加深度和廣泛的合作，對(duì)人工智能的安全進(jìn)行系統(tǒng)布局，”12月8日，在清華大學(xué)舉辦的AI與安全研討會(huì)上，清華大學(xué)副校長(zhǎng)、中科院院士薛其坤表示：“這一領(lǐng)域是快速發(fā)展的，要在關(guān)鍵時(shí)刻把握正確的方向，抓住關(guān)鍵的技術(shù)，“相信通過(guò)這次AI與安全會(huì)議，能取得新的進(jìn)展和收獲。“

據(jù)悉，研討會(huì)由清華大學(xué)、阿里安全、北京智源人工智能研究院聯(lián)合舉辦，邀請(qǐng)高校、互聯(lián)網(wǎng)公司、政府部門等多方科研人員參與，旨在提升各界對(duì)于AI與安全的重視程度，合作產(chǎn)出更多安全AI成果。

“在2019年天貓雙11當(dāng)天，我們的安全AI大腦完成風(fēng)險(xiǎn)防控388億次，99%的黃牛被系統(tǒng)準(zhǔn)確攔截，”阿里巴巴集團(tuán)安全技術(shù)總經(jīng)理錢磊指出，阿里具備當(dāng)前產(chǎn)業(yè)界最復(fù)雜的商業(yè)場(chǎng)景，清華擁有極強(qiáng)的技術(shù)和研發(fā)能力，未來(lái)雙方通過(guò)人才、項(xiàng)目等方面加強(qiáng)產(chǎn)學(xué)研合作，將是一個(gè)非常好的探索和命題。

清華大學(xué)計(jì)算機(jī)系黨委書記劉奕群表示，阿里與清華一直合作密切，這次會(huì)議將促進(jìn)各方更加深入的合作，推動(dòng)我國(guó)人工智能領(lǐng)域的安全管理體系的建立，也將在國(guó)際人工智能的安全領(lǐng)域更好發(fā)出中國(guó)的聲音。

發(fā)展可信、可解釋的安全AI成共識(shí)

人工智能發(fā)展的快速和重要性已經(jīng)不言而喻。2019年，美國(guó)、歐洲、日本等各國(guó)均出臺(tái)各類促進(jìn)人工智能發(fā)展的政策和國(guó)家戰(zhàn)略；公開(kāi)數(shù)據(jù)顯示，2019年，中國(guó)人工智能相關(guān)公司總數(shù)超過(guò)2500家，到2020年，中國(guó)人工智能產(chǎn)業(yè)規(guī)模將接近500億元。

“各類場(chǎng)景中，安防、醫(yī)療應(yīng)用較為廣泛，最近上海地鐵一個(gè)攝像頭抓到了潛逃20年的殺人犯，就是典型應(yīng)用。”國(guó)家工業(yè)信息安全發(fā)展中心副主任李新社在報(bào)告中指出，但人工智能當(dāng)前面臨數(shù)據(jù)、算法、網(wǎng)絡(luò)、信息、倫理等多方面的安全問(wèn)題，“建立可信的人工智能將成為發(fā)展的重要考量。”

早在1987年就帶領(lǐng)清華成立全國(guó)第一個(gè)以人工智能命名的國(guó)家重點(diǎn)實(shí)驗(yàn)室，見(jiàn)證、參與中國(guó)第一代、第二代人工智能技術(shù)發(fā)展，清華大學(xué)人工智能研究院院長(zhǎng)、中科院院士張鈸在主旨報(bào)告中強(qiáng)調(diào)，必須發(fā)展安全、可靠、可信的第三代人工智能，這樣才有可能使人工智能技術(shù)得到安全廣泛的應(yīng)用。而發(fā)展技術(shù)的關(guān)鍵在于基礎(chǔ)研究，必須在基礎(chǔ)研究上進(jìn)行重點(diǎn)投入和突破。

（清華大學(xué)人工智能研究院院長(zhǎng)、中科院院士張鈸在會(huì)議中做主旨報(bào)告）

“一張鳥的照片，加一點(diǎn)噪聲，就能讓AI識(shí)別為一只老虎，”張鈸院士表示，人工智能的安全問(wèn)題源于深度學(xué)習(xí)技術(shù)的底層缺陷，采用非常簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò)系統(tǒng)，用概率統(tǒng)計(jì)的方法來(lái)提取出低層次的特征，而正確的方法應(yīng)該是像人類一樣去提取高層次的語(yǔ)義特征，“我們正在往這個(gè)方向努力，但現(xiàn)實(shí)情況是，沒(méi)有永遠(yuǎn)安全的系統(tǒng)，也不要指望有永遠(yuǎn)安全的人工智能系統(tǒng)，只有加強(qiáng)基礎(chǔ)研究，才有前瞻性的判斷，及時(shí)采取措施。”

中國(guó)科學(xué)院院士、大數(shù)據(jù)算法與分析技術(shù)國(guó)家工程實(shí)驗(yàn)室主任徐宗本在主旨報(bào)告中也重點(diǎn)強(qiáng)調(diào)：人工智能的未來(lái)發(fā)展，特別是在醫(yī)療等關(guān)鍵領(lǐng)域的應(yīng)用技術(shù)，需要充分利用數(shù)學(xué)等工具加強(qiáng)基礎(chǔ)研究，突破精確性瓶頸，打破數(shù)據(jù)孤島，實(shí)現(xiàn)小樣本和可解釋的深度學(xué)習(xí)。

AI與安全發(fā)展相輔相成

針對(duì)AI與安全的眾多技術(shù)領(lǐng)域問(wèn)題，中國(guó)科學(xué)技術(shù)大學(xué)網(wǎng)絡(luò)空間安全學(xué)院副院長(zhǎng)張衛(wèi)明、上海交通大學(xué)網(wǎng)絡(luò)空間安全技術(shù)研究院副院長(zhǎng)伍軍、西安交通大學(xué)網(wǎng)絡(luò)空間安全副院長(zhǎng)沈超、西交利物浦大學(xué)電氣與電子工程系教授黃開(kāi)竹、清華大學(xué)副教授張超等人在會(huì)上做了精彩的發(fā)言，并從各個(gè)角度提供建議，比如防止AI的濫用和誤用、加強(qiáng)相關(guān)標(biāo)準(zhǔn)制定、加強(qiáng)人才培養(yǎng)、進(jìn)一步深化人工智能與各個(gè)實(shí)體產(chǎn)業(yè)的融合等。

“當(dāng)業(yè)界還在擔(dān)憂AI安全性的問(wèn)題，我們已經(jīng)在阿里的安全場(chǎng)景中全面使用AI技術(shù)，安全本身的攻防對(duì)抗屬性下，AI也在進(jìn)化，”錢磊表示，阿里安全通過(guò)在打擊假貨、營(yíng)商環(huán)境治理、網(wǎng)絡(luò)安全、數(shù)據(jù)安全、新零售安全等領(lǐng)域的AI應(yīng)用，希望打造出更安全、更可信、可解釋的安全AI。

（阿里巴巴集團(tuán)安全技術(shù)總經(jīng)理錢磊在會(huì)議中分享阿里用AI解決安全問(wèn)題的實(shí)踐）

錢磊在現(xiàn)場(chǎng)公布了一組安全AI的防控?cái)?shù)據(jù)：在打擊假貨方面，96%的疑似侵權(quán)鏈接一上線就被封殺、96%的知識(shí)產(chǎn)權(quán)投訴在24小時(shí)內(nèi)被處理；在保障商家經(jīng)營(yíng)方面，每天應(yīng)對(duì)千萬(wàn)級(jí)風(fēng)險(xiǎn)訂單識(shí)別和判斷，累計(jì)攔截上百萬(wàn)惡評(píng)攻擊。

徐宗本院士點(diǎn)評(píng)稱，AI打假提供了更多機(jī)器學(xué)習(xí)、大數(shù)據(jù)分析，對(duì)真假甄別意義重大，AI打假是數(shù)字技術(shù)、人工智能的應(yīng)用場(chǎng)景，“阿里在這方面做得不錯(cuò)。”

冰凍三尺非一日之寒。阿里巴巴集團(tuán)安全部成立于2009年，最早期為專家運(yùn)營(yíng)階段，即通過(guò)離線數(shù)據(jù)分析研判，修復(fù)產(chǎn)品漏洞，“一直到2013年，基本都是這種人肉模式，但隨著阿里業(yè)務(wù)體系不斷擴(kuò)大，如果每個(gè)業(yè)務(wù)都要兩三個(gè)專家去分析，基本是不可能的，后面我們就進(jìn)入數(shù)據(jù)智能時(shí)代。”錢磊表示，這一時(shí)期的特點(diǎn)是通過(guò)大量的信息，建立完善的安全體系、指標(biāo)體系，通過(guò)人去解讀指標(biāo)變化，再變成規(guī)則落地、線上防控，“人依然是主導(dǎo)。”

“安全風(fēng)控本質(zhì)是一個(gè)識(shí)別、判定和處置的過(guò)程，我們嘗試通過(guò)算法來(lái)提效，并在一些流量業(yè)務(wù)中使用，效果不錯(cuò)，從2018年開(kāi)始，全面轉(zhuǎn)向安全AI時(shí)代，”錢磊認(rèn)為，安全能力的高低強(qiáng)弱和在場(chǎng)景中能使用多少數(shù)據(jù)，使用數(shù)據(jù)的水平，是正相關(guān)的，而AI技術(shù)在安全領(lǐng)域的大面積應(yīng)用，將大大提升安全業(yè)務(wù)使用數(shù)據(jù)的水平，“安全的對(duì)抗性，又為AI技術(shù)的發(fā)展提供了豐富的多變的場(chǎng)景，推動(dòng)AI技術(shù)的快速發(fā)展，兩者相輔相成。”

2019年6月，阿里聯(lián)合清華大學(xué)發(fā)起安全AI挑戰(zhàn)者計(jì)劃，分別進(jìn)行了人臉識(shí)別、圖像分類等場(chǎng)景的對(duì)抗樣本測(cè)試，共計(jì)2000多名隊(duì)伍報(bào)名，此次會(huì)議中也對(duì)前五名獲獎(jiǎng)隊(duì)伍進(jìn)行了現(xiàn)場(chǎng)頒獎(jiǎng)。

“我們希望與更多方合作，在AI的可解釋性、安全性上，在更多應(yīng)用場(chǎng)景中，產(chǎn)出更多的成果，來(lái)推動(dòng)人工智能和安全產(chǎn)業(yè)的發(fā)展。”錢磊表示。