日前，助推上海全球科創中心建設的品牌活動——2019第四季漕河涇科創嘉年華成功舉行。活動中最引人矚目的演講者來自卡耐基梅隆大學計算機學院副院長賈斯汀·卡塞爾教授，她對未來的暢想點燃了現場觀眾的情緒。

在演講結束后的獨家專訪中，面對人工智能安全性等一系列問題，被譽為“人工智能女王”的卡塞爾教授以對未來負責的態度，展現了前沿科學家的思考與擔當。

還沒有找到教會人工智能常識的方法

解放周末：很高興專訪您。為了采訪您，我事先在翻譯軟件的幫助下準備了一份提綱，這就是人工智能技術給我們人類帶來的便利之一。而且，就我的使用體驗來說，翻譯軟件的翻譯質量一直在提高。伴隨著5G的發展，包括自動翻譯等在內的人工智能技術是否會迎來重大的突破？

賈斯汀·卡塞爾：如你所說，從翻譯軟件到城市交通管理、環境污染治理、政府工作效率提升等，人工智能正在方方面面改變著我們的生活。雖然人工智能技術發展之路并非坦途，但幸運的是，我們當前所缺失的恰是5G所能提供給我們的，那就是網速和帶寬的大幅提升，這將大大提高業務效率和數據收集。5G為人工智能創造了快速發展的新環境，人工智能技術在很多領域的應用將發生新的變化。

解放周末：會有哪些新變化？

賈斯汀·卡塞爾：比如機器學習，它是當今人工智能領域應用中最重要的工具。就像教孩子一樣，我們向機器展示一張貓的圖片，告訴它“這是一只貓”，然后再向它展示一張狗的圖片，告訴它“這不是一只貓”。上百萬遍的重復，機器就習得貓的共性并將其識別出。

學習效果好壞有賴于數據集，當數據集太小或不好的時候，算法就會發生偏差。如果我們沒有輸入足夠多的貓的圖片，機器就無法正確識別貓。圖像識別相對簡單，處理一個自然語言，需要整整5天。量子計算可能會在某一天為機器學習帶來更快的速度，但這需要5G這樣的高速通信技術作基礎。

機器學習能力提高是內在的，對人們來說，可期待、可見的變化是，5G時代，人工智能所能帶來的各項前景，包括制造、無人駕駛、教育等，都將比以往任何時候獲得更快的發展。未來可能出現這樣的生活場景：你在購物網站上剛下單，產品就在離你住處一公里處被3D打印機打印出來，迅速送到你手中；殘障人士可以與工程師、藝術家一起設計自己想要的假肢；教育可以更好地滿足不同學習能力的學生；越來越多的企業在不同城市或國家擁有員工，通過人工智能中樞來實現遠程協作；快到幾乎沒有延遲的5G速度，有助于整座城市實現無人駕駛——當然，前提是城市所有的交叉路口配有傳感器和自適應的交通信號燈，智能基礎設施是發展無人駕駛技術的關鍵。

解放周末：是否可以說人工智能發展的障礙已被掃除？

賈斯汀·卡塞爾：遠遠沒到障礙被掃除的這一天，事實上正相反。人工智能雖然在一些領域比人類聰明很多，比如眾所周知的阿爾法狗，但在更多領域，人工智能的智商只相當于兩三歲的孩子，我們還沒有找到教會人工智能常識的方法。比如此刻，如果我讓機器人把那邊裝著水的玻璃杯拿給我，它不是把水灑了，就是把杯子捏碎了。它非常有力，卻不懂得如何溫柔地用力。

不存在機器人統治地球的可能

解放周末：有力卻不懂得如何溫柔用力，這無法不讓人聯想起人工智能的安全問題。

賈斯汀·卡塞爾：很多人都在說機器人將統治地球，包括一些有影響力的人。但其中有些人可能只是喜歡因此而出現在新聞里；而另外有些人雖然在其他學術領域做出了超凡貢獻，但他本人并不是計算機科學家。計算機科學家們不認為存在機器人統治地球的可能。

有個笑話說：如果有一天機器人造反，我們只需等待45分鐘，它們的電池就沒電了。

解放周末：但如果將來的機器人不裝電池，只需通過互聯網就能給自己充電了呢？

賈斯汀·卡塞爾：但它們不會知道自己沒電、需要充電了。哲學上有一個“缺陷意識”的概念，人無法知道自己不知道什么，機器人不知道自己需要充電，而電池是會沒電的。

在我看來，真正聰明的人工智能，不是下棋贏了人類冠軍，而是會在各種信息中建立起聯系，懂得推理，擁有常識。而目前的研究進展離這一天還非常非常遠。

解放周末：無論多遠，我們依然需要弄清楚前行的方向，畢竟我們正身處一列高速前行的列車上。

賈斯汀·卡塞爾：我非常同意你的觀點，所以我在很多場合，包括今天的演講中也提到，5G帶來發展機遇的同時，安全問題依然隱藏其中。我曾經說過，也會一直堅持說，我不會接受任何我不信任的研發資金，不會開發不與人類合作的人工智能。

解放周末：但您不能保證其他人也不這么做。事實上，包括美國在內，已經有一些國家或機構在悄悄研發戰爭機器人。

賈斯汀·卡塞爾：（拿起眼前的筆）這是一支筆，我可以用它來書寫真理，也可以戳傷你。人們害怕人工智能，是因為它們可以變成殺人的武器。按此邏輯，我們身邊幾乎所有的東西都應該被拿走，因為它們在壞人手里都可以變成武器。

重要的是教育。我們必須改善我們的教育體系，在孩子們還很小的時候就要教育他們成為善良的人。此外，在大學里，心理學專業教學生要尊重生命，哲學專業也教學生要尊重生命，可是，計算機專業不教。但是現在，我們已經意識到了這點，計算機科學家和計算機專業的學生，都開始學習倫理學，學習尊重生命。這一點非常重要，需要我們時刻銘記在心。

解放周末：您怎么評價這種教育的效果？

賈斯汀·卡塞爾：重要的是持之以恒。我從2001年開始研究人工智能的倫理問題，當時并沒有很多人關注，但現在，這已成為全社會一個普遍的觀念，這就是教育的結果。我會繼續不斷地教育我的學生，我的學生也會教育他們的學生。還有我的論文，人們可以從網上讀到我的論文。這樣的教育工作不是我一個人在做，其他許多計算機科學家都在做。

我們不能因為未來存在往壞的方向發展的可能，就放棄往好的方向創造未來的努力。和那些害怕人工智能的未來、試圖阻止其發展的人不同，我會對未來負責。我可以，也要讓一個美好的未來發生，這是我作為科學研究者的責任。

對未來負責肯定要難于阻止未來，但我希望大家記住：人工智能的未來掌握在我們手中。我們決定怎么使用它，我們決定未來是光明的還是黑暗的。

如果找錯問題，就不可能找對解決方法

解放周末：人工智能帶來的問題，還包括失業風險。隨著人工智能的發展，人類失去的工作崗位已經不限于一些重復性或危險的勞動。

賈斯汀·卡塞爾：機器人真的會全面取代我們嗎？《經濟學人》雜志的最新研究表明，一些重復的、不太需要很高技能的、無聊的工作正在消失；同時，一些新的工作崗位正在被創造出來。這些新崗位需要從業者具有人類特性的技巧，也就是與他人協作的能力、社交的能力。需要社交能力的崗位的增幅是最大的，聊天、喝咖啡這些人類特有的行為可以在伙伴間、團隊中建立起良好的情感連接。

不要消極看待就業領域的變化。我們并非被迫選擇如此，實際上這是主動選擇的結果。相比一天工作十多個小時和一天工作三五個、甚至兩三個小時，你會怎么選？我們需要做的是，當我們把大部分工作交給機器人后，重新思考人類的定義、生活的意義。

解放周末：您曾在一次采訪中提到，讓機器人代替人類父母為寶寶換尿布，這樣父母可以有更多時間陪伴孩子，但親手換尿布難道不正是陪伴的一部分嗎？

賈斯汀·卡塞爾：不僅是小嬰兒，即便我們成年人，也需要身體的接觸，當你擁抱著你的愛人時，你是在告訴他（她），你在這里，你愛他（她）。換尿布時父母可以撫摸孩子，孩子可以感受到父母的愛意。但現代社會往往需要父母在孩子還很小的時候就出去工作，當他們和孩子相處時，是把時間花在給孩子換尿布上，還是把孩子抱在懷里輕輕搖他、親他，或者陪他玩呢？我不了解中國的情況，在美國，生完孩子兩周后，母親就需要回到工作中。

解放周末：未來人類會不會像電影《她》里那樣，愛上人工智能？事實上，今天的我們每天花在智能手機上的時間往往多于陪伴家人的時間。

賈斯汀·卡塞爾：我看過這部電影，非常喜歡，但我不認為它如表面上的那樣，是在講述人類和人工智能的愛情故事。恰恰相反，它反映了現代人與人之間的隔閡。我待在中國的時間里，有時會騎車或坐地鐵，常常看到車廂里、馬路上年輕人低著頭看手機，相互之間沒有眼神的交流。這非常糟糕。

問題不在人工智能，而在我們的選擇。如果找錯問題，就不可能找對解決方法。

解放周末：您在人工智能領域最為人知曉的成就是主持研發了有社交意識的機器人助理SARA，您覺得這項研究的意義是什么？

賈斯汀·卡塞爾：SARA是第一個能與人類建立社交關系的機器人。在她之前，人工智能對人類來說是工具，但她是人類的伙伴。

我們一直在通過研究人類的智力行為來發展人工智能，卻沒有對人類的社會行為進行研究。人類的社會行為非常復雜，包括表情、身體、聲音等。我想通過建造類人的方式去理解人類，這會是研究人工智能的一個很好的方向——如果我們先去研究真人，再去發展人工智能，就能更快更好地發展人工智能。

另外，隨著人類在電子設備上花費越來越多的時間，科技需要回歸到古老但依舊重要的原則：以和人們建立關系的方式管理機器和人的長期交互關系，并讓其不斷發展。

解放周末：SARA和人類的伙伴關系是如何建立起來的？

賈斯汀·卡塞爾：SARA能自動理解人的感受，推導人際關系紐帶，且理解程度能不斷鞏固和加深。她會根據人的情緒做出相應的反應，用自己的行為對交互關系做出合理、適宜的回應。

解放周末：如果人類隱藏真實的情緒呢？

賈斯汀·卡塞爾：人類其實并不善于說謊。比如笑，我們臉上會出現許多種不同的笑，但只有一種笑意味著我們是快樂的，其他笑容都不是真的。我把這種微笑叫作“獨生的微笑”。SARA捕捉的是和她面對面的那個人的情緒，因為兩個人的關系是雙邊的，因而容易確認。

解放周末：這樣的社交人工智能會不會減少人們對真實社交生活的需求？

賈斯汀·卡塞爾：我認為恰恰相反，因為人類關注的是真實的人，而社交人工智能可以訓練我們的心靈和其他人建立關系，也會提醒我們和其他人的協作多么重要，和世界上其他人互相依賴多么重要。比如社交人工智能可以幫助那些自閉癥患者與周圍建立聯系。

努力改變計算機科學的“男性”形象

解放周末：您知道自己被叫作“人工智能女王”嗎？在一個通常被認為由男性主導的領域做“女王”的感覺如何？

賈斯汀·卡塞爾：（笑）我不太清楚人們怎么叫我，但我確實為女性在計算機領域所取得的成就感到自豪。目前，在全世界的計算機學院里，18歲到22歲的學生中有50%是女生。這太神奇了。

情況不是一開始就是這樣的。以前，通常父母更傾向于鼓勵男孩、而不是鼓勵女孩去學習計算機科學。那些10歲以前喜歡計算機、喜歡數學的女孩，長到十一二歲的時候，相比自己的想法，她們變得更在意別人對自己的看法，希望自己討人喜歡、受人歡迎。這時，如果其他孩子或她們的父母對她們說，計算機科學是為男孩準備的，你為什么要學？她們往往會選擇退出。

曾有女孩向我講述她的困惑。她說，朋友們都說她網球打得好，為什么不好好打網球，而去學計算機？她們不認為她能成為一名計算機科學家。她說：“我喜歡網球隊的隊友們，也許她們是對的，我應該退出計算機的學習。”我告訴她，你必須把她們的說法從你的腦子里“推”出去，你被接納在這里學習計算機科學，說明你很擅長，而你在這里學習計算機科學這件事本身，就在改變計算機科學的“男性”形象，如果你退出了，計算機科學的“男性”形象就得不到改變。

解放周末：轉變是如何發生的？

賈斯汀·卡塞爾：為改善女性學習計算機科學的環境，我們做了很多工作。比如改變教授計算機科學的方法。以前幾乎每所教授計算機科學的大學，本科最初兩年都只教方程、算法、數學等，根本不涉及計算機。但我們了解到，很多女性對計算機科學感興趣是因為對應用程序好奇，通過應用程序看到計算機能讓世界變得更美好。于是我們就從應用程序教起，事實證明，這樣的教法讓計算機科學更有吸引力。

如果計算機領域只有年輕男性參與，那么，創新產品可能只考慮了年輕男性的需求。創新成果要有多樣性，需要參與者也是多樣的：要有青年人，也要有年紀大的人；要有男人，也要有女人；要有各種膚色、來自各種文化的人。

解放周末：回到30年前，當您還是達特茅斯學院一名學習比較文學的本科生時，女性進入計算機領域的機會更少，您是怎么改變專業的？

賈斯汀·卡塞爾：其實我的興趣沒有變過，我喜歡“講故事”。我年輕時，以為“講故事”就是文學，碰巧我又喜歡文學、喜歡閱讀，所以就選擇了比較文學專業。但是，我不僅想研究名作家，更想了解普通人的故事。但老師說：不行，你要讀名著，普通人的故事很無聊，沒有價值。我的本科論文寫的是著名作家塞繆爾·貝克特的英文文本和法文文本的對比分析。老師說，這很有趣，但這不是比較文學。于是我轉而去英國讀語言學碩士，研究蘇格蘭孩子講故事時的身體語言。英國老師說，這很有趣，但這不是語言學。我和他爭論什么是語言學，但最終我回到美國，攻讀心理學博士，研究人類行為。

30歲時我成為一名年輕的教授，我發現計算機是我分析語言的非常好用的工具，它可以把人們的語言“切”成一片一片。一年后，校長說，你的精力太分散了，你要選定一個領域，不然工作滿7年后就不續聘。這時正好有朋友邀請我去旁聽他們的計算機課，我就去了，那一年的學習讓我對計算機本身產生了興趣，因為我找到了一種我喜歡的做事情的方法——建造東西、講故事、研究聲音。后來，我收到了來自美國最好的大學之一的麻省理工學院的邀請，我欣然接受，去“考驗”計算機是否就是我的“真愛”。

這是一個很長的故事，直到35歲，我才選擇留在計算機領域。但我決定要給這個領域帶去一些不同以往的東西，把我在比較文學、語言學、人類行為學等方面學到的知識融入其中。我喜歡改變。

解放周末：走過的路雖然長，但也許正是這種跨學科背景，成就了您在機器語言、人機交互等方面的創新貢獻。

賈斯汀·卡塞爾：我想是的，跨學科對創新特別重要。

解放周末：在計算機專家的身份之外，您還是卡耐基梅隆大學計算機學院的副院長，作為一位教育者，您是如何教學生的？因為人工智能領域的知識更新非常迅速，很可能您今天在課堂上教他們的東西，明天就被淘汰了。

賈斯汀·卡塞爾：我盡力教學生一些永遠不會過時的東西，而不是教他們編程。我教他們如何理解人類的行為——如何研究它、分析它，以及如何將研究、分析的成果作為人工智能系統的基礎而加以應用。這種思考問題的方式，使他們區別于其他一般的計算機軟件開發者，他們懂得任何人工智能系統都必須以人為本，為人所用，與人互動。

解放周末：最后，就上海建設全球科創中心，您有什么建議？

賈斯汀·卡塞爾：四條建議。首先是公平競爭，當很多企業試圖解決同一個問題的時候，他們會激烈競爭，從而推進創新發展的速度；其次是鼓勵合作，一個人需要多元知識結構，一個團隊更需要不同學科背景的成員；第三是強化多樣性，很多科學研究已經表明，創新者的多樣性越豐富，創新成果的多樣性就越豐富；最后是保持開放性，硅谷很棒，但硅谷的創新活力正在向其他城市轉移，因為硅谷總是認為自己是最聰明的，開始不與硅谷之外的世界交流。上海要保持和世界的連接，上海會更厲害。