對話MIT人工智能實驗室主任：AI不是雙刃劍，都是人類惹的禍

隨著機器學習與人工智能技術的發展，如今，越來越多的公司、個人開始利用 AI 技術，為未來下著重要“賭注”。但是，人一旦動了歪腦筋，AI 也可能會作惡，如何好好利用技術這把雙刃劍，是我們最為關注的。

5 月 25 日，由學教育-松鼠 AI、IEEE 教育工程和自適應教育標準工作組、中國自動化學會、新東方、好未來等共同舉辦了第三屆 AIAED 人工智能智適應教育峰會。在會上，來自麻省理工學院（以下稱 MIT）計算機科學與人工智能實驗室主任 Daniela Rus 發表了相關主題演講。

她在演講中表示，人類需要找到真正產生影響的資源，影響科技改變世界的方式，而這是 21 世紀當中最為重要的課題。

對于未來人工智能技術與算法的發展，她認為人類需要謹慎、仔細地看待。

Daniela Rus 是機器人領域的權威專家，MIT 計算機科學和人工智能實驗室（CSAIL）主任，曾經一手創辦了達特茅斯學院機器人實驗室。DeepTech 和麻省理工科技評論曾報道的“抓取式”軟體機器人、折紙機器人等重要論文與技術成就，都是由 Daniela Rus 和她的團隊一起研發的。

在 AIAED 大會上，Daniela Rus 對目前 AI 與機器人領域的技術前景進行了評估，并表示樂觀，她認為這當中充滿機遇。

“大家想象一下，有一天我們日常生活的所有任務都由機器人來代替了，無人機把食物送到門口，垃圾能夠自動被回收。想象一下這些智能系統使得生活的方方面面都自動化，保證我們生活得很好，工作更加高效。”她非常興奮地說。

其實，這種場景已經在逐步實現中。早前外媒曾報道，美國喬治梅森大學（George Mason Uniersity，簡稱GMU）打造了全球規模最大的校園機器人送餐服務。送餐機器人在路上行走，可以將食物送到指定位置，學生自主取出熱騰騰的食物。

圖 | 送餐機器人，

與此同時，亞馬遜、京東、阿里巴巴等電商巨頭，也在不斷嘗試通過無人機等多種方式，將物品送到用戶手中。所以，時代在不斷發展，而人類正在享受著技術帶來的便捷與美好。

但大眾也要意識到，技術是中立的，最終的結果取決于控制技術的人。若數據與算力存在很大的偏差，可能會造成難以想象的慘烈后果。

Daniela Rus 對此感到擔憂，她表示，雖然 AI 有諸多優勢，但是要警惕人類“抄近道”，該弄的東西沒有弄，欺騙技術與系統，造成很大的困擾。同時她又指出，這一切其實跟 AI 技術的關系并不大，而是與人類的控制有關。

人類需要善于利用技術上的優勢。人做人最擅長的事情，機器做機器最擅長的事情，“耍小聰明”不是正經之道。

在 AIAED 大會后，Daniela Rus 教授接受了 DeepTech 的采訪，聊了聊目前人工智能技術難點以及未來她想研究的機器人是哪種類型等。以下是采訪實錄整理：

中美在AI領域各有千秋

DeepTech：中國和國外在 AI 技術與人才方面還存在哪些差異？中國的 AI 興起還有什么創新的機會？

Daniela Rus：你可能看過李開復的《AI未來》，講到中國有一定的優勢，比如中國的數據采集量比較大，使得中國有更多的 AI 技術空間可以發揮。但從 AI 人才教育的角度來說，中國相對還比較僵化，應試教育的氛圍較為濃厚，小孩可能更重視考上哪個大學；美國則相對更靈活一些，更想著我要去解決什么樣的問題。

中國從教育體制，包括從學生對 AI 的態度來說，可能還是有一些地方需要改善。但總的來說，中美 AI 技術人才與研究能力都是非常強大的，各有千秋，中國在這一領域還是有許多發展空間的。

技術難點與解決方案

問：AI 技術研究中有遇到什么困難嗎？

Daniela Rus：以前，我們想象中的機器人可能都是金屬的、塑料的，或者長得像人，或者像人一樣動作。但實際上，當我從事這項工作的時候，從一位制造機器人的研究者角度看，機器人可能有不同的形狀，也可以有不同的功能，可能是木頭做的，也可能是布、紙做的，或者可以用食物做機器人。

用那些東西做成機器人，人可以把機器人吃到肚子里，在肚子里面工作，工作完了就消化掉了。所以，在技術研究中，更多要考慮的是理想與實際之間的應用關系。

問：在研究機器人技術的時候，有哪些挑戰值得和我們一起分享？

Daniela Rus：三個很重要的挑戰，第一個，如何制作大腦，機器人怎么思考，怎么找到問題解決方案；第二個，怎么制造機器人的語言；第三個，人機交互。

第一個，大腦。機器人的思考過程與人類不太一樣，運行環境并沒有那么多樣化。但在機器人實際應用中，復雜的環境挑戰，無法在實驗室中進行提前預知問題的解決方案，機器人的大腦在推理、思考、認知上都具有很大的挑戰。

第二個，制造機器人的語言化。機器人本身第一語言還是非常底層的語言，所以彼此做一個東西，需要相當長的開發時間來做底層的語言。另外，制作本身還是沒有一個非常容易的東西。

第三個，人機交互。怎么能夠了解人的反應，這本身還是很有挑戰的。

問：人工智能的計算結果常常是隨機的，不可解釋的，如何解決這個問題？

Daniela Rus：我們已經有了許多方法來解決此類問題，比如剛才提到的神經網絡。目前來說，神經網絡還是有很多黑盒子過程，我們無法直接解釋，也無法從數據角度給出一個解決方案，這實際是人工智能的一個很大的課題。

但是從某種角度來說，這也是一個必然的過程。從人工智能領域來說，打破黑盒子，解釋并給出解決方案，是一個探索過程。另外，剛才也談到，現在數據量很大，如果一個神經網絡有特別多的節點，本身的復雜性就會非常高。現在有些方法可以把節點壓縮，把復雜的內容壓縮到相對簡單，比如說從 200 萬壓縮到 20 個節點等方式。

問：AI 是一把雙刃劍，在數據和算力之間存在一定偏差，在某種場景，AI 也存在一定的危險性。那么，AI 技術在教育領域下會發生哪些的極端情形？

Daniela Rus：我們一直聽到，AI 的優勢是什么，能夠帶來多少收益等正向的話題。當然，人有無限可能，人類可能會采取作弊、欺騙等態度，也就是所謂“抄近道”，該弄的東西沒有弄，欺騙系統與技術。

這種情形是一定存在的，但實際上騙的是自己，最后呈現出的惡果并不是 AI 的問題，而是人類最終自食其果，搞垮罷了。

問：數據、算法的歧視問題，怎么能做到盡可能“數字公平”？

Daniela Rus：現在大家對算法歧視問題表示關心，這是很正常的，大眾確實有這樣那樣的顧慮，我認為，這也是研究人員亟待解決的一個問題。

今年，我的項目組里出了不同的論文，但話題都是一致的，就是怎么解決機器學習里面產生的偏見。我們知道，面部識別出現過很多問題，就是所謂偏見性的東西。目前來看，解決此問題的辦法，仍是深度研究。

問：AI 需要很多數據，歐洲很多國家都會覺得太侵犯隱私了，會有一些阻力。你如何判斷 AI 技術對隱私的保護產生沖突問題？

Daniela Rus：這個可能還是更容易一些，因為很多事情是雙刃劍。

談未來研究方向

問：你覺得在分布式機器人領域會有哪些發展，它的趨勢是什么？

Daniela Rus：未來我們的生活環境里會有很多機器人，這種情況下一定是分布式的，互相有協調問題。

比如：自動駕駛汽車，每一輛自動駕駛汽車都相當于一個機器人，它們互相之間的協調，在實際道路環境中能不能通過監測的方式，互相感知，了解相互位置，并互相協調。