自從上個世紀八十年代起，“AI 教父”杰弗里?辛頓（Geoffrey Hinton）就一直在從事有關深度學習的研究。然而，研究成果卻受到缺乏數據以及計算機功能不足的限制。不過，他對這項技術的執著態度最終還是給人類帶來了巨大的益處。在第四屆 ImageNet 大賽上，幾乎每支團隊都用上了深度學習技術，并且達到了驚人的準確率。不久之后，深度學習不僅在圖像識別任務中得到了應用，還被廣泛地應用于其它領域。

30 年前，人們都覺得提出的神經網絡的想法是離經叛道。但辛頓表示，現在幾乎所有人都認同了他的想法。

對于人工智能領域短板的看法，辛頓說：“很多概念性的突破必將接踵而至，但我們同樣也需要進行大規模且有成效的性能提升。”

對于神經網絡不足之處的看法，辛頓說：“含有大量突觸的神經網絡非常善于處理數據量較小的任務，但是人類自己在這方面更勝一籌。”

對于人類大腦工作方式的看法，辛頓說：“人的大腦內遍布神經活動的重要載體。”

現代人工智能革命起源于一場不起眼的研究競賽。在 2012 年的第三屆 ImageNet 大賽上，參賽團隊要設計出一種能夠識別 1000 種事物的計算機視覺系統，這些事物包括動物、自然景觀以及人類等。

在最初的兩屆比賽中，最優秀團隊的準確率也達不到 75%。但在第三年，一名教授和他的兩個學生卻在短時間內突破了技術的天花板。他們以令人震驚的 10.8 個百分點贏得了比賽。這名教授就是杰弗里?辛頓，而他們所使用的技術被稱作深度學習。

去年，鑒于辛頓對人工智能領域的開創性貢獻，他與揚?勒丘恩、約書亞?本吉奧等人工智能先驅一道被授予圖靈獎。10 月 20 日，本文作者 Karen Hao（凱倫·郝）與辛頓在《麻省理工科技評論》雜志的全球新興科技峰會上，就人工智能領域的現狀以及未來的發展方向進行了交流。

Karen Hao：您為何如此確信深度學習將會復制人類的智慧？

Geoffrey Hinton：我確實相信深度學習能做任何事，但目前還需要取得一些概念性突破才能實現這一點。例如，2017 年阿施施?瓦斯瓦尼等人的論文介紹了一種轉換器，它可以很好地表達詞語的意思。這就是一種概念性突破。現在，幾乎所有功能較為強大的自然語言處理系統都在使用這種技術。我們需要更多像這樣的突破性技術。

Karen Hao：如果我們取得了這樣的技術突破，那么深度學習會接近于人類的智能嗎？

Geoffrey Hinton：是的。當神經活動的重要載體可以進行像推理這樣的行為時，意味著我們已經取得了非常重要的突破。但在規模上，我們仍然需要獲得巨大的提升。人腦約有 100 萬億個參數，或者說神經突觸。而現在像 GPT-3 這樣的可以被稱作大型模型的程序，只有 1750 億個神經突觸。人腦神經突觸的數量是它的上千倍。目前，GPT-3 可以生成看起來十分合理的話語。但與人腦相比，其生成量依然微不足道。

Karen Hao：當您談到規模這個概念時，您指的是更龐大的神經網絡，還是更多的數據，又或者是兩者兼具？

Geoffrey Hinton：兩者都有。計算機科學和人類行為之間存在著某種差異。相比他們所接收到的數據量而言，人類擁有大量的神經突觸，而含有大量神經突觸的神經網絡卻更善于處理數據量較小的任務。不過，在這一方面，人類更勝一籌。

Karen Hao：人工智能領域的許多專家都認為，具備常識是下一個需要解決的問題。您同意這種觀點嗎？

Geoffrey Hinton：我同意他們的觀點，這是一項非常重要的問題。我還認為電機控制是一個非常重要的領域，而現在深度神經網絡在這一方面能做的非常好。尤其在谷歌最近的研究中，你可以將精準的電機控制與語言結合起來，這樣就能完成打開抽屜并從中取出一個積木的動作，而且系統還會用自然語言告訴你它正在做什么。

對于 GPT-3 這樣的可以生成完美語句的模型來說，想要生成語句就必須先理解大量語句的含義，但是它到底能理解多少，我們并不是十分清楚。然而，如果某個東西打開了抽屜并取出了一個積木，同時還說道，“我剛剛打開了一個抽屜，取出了一個積木”，那么它很有可能明白自己在干什么。

Karen Hao：人工智能領域一直將人腦當作其最大的靈感來源，而且人工智能技術的不同方法也源于認知科學中的不同理論。您認為人腦構建出外部世界的表現，是為了去理解它，還是這只是一種去思考它的有用方法？

Geoffrey Hinton：在很久之前，認知科學領域里的兩個思想學派之間發生了一場辯論。其中一派以斯蒂芬?科斯林為代表，認為當人類在腦中操縱視覺圖像時，會得到一組可以任意移動的像素陣列。而另一派的思想則更加接近于傳統的人工智能方向。他們認為，“不不不，這純屬胡說八道。它應該是一種具有層次性和結構性的描述。人的意識中會形成一個符號性的結構，而它才是被意識所操控的東西。”

我認為他們都犯了相同的錯誤。科斯林認為，由于外部圖像是由像素構成的，而它們反應了我們所理解的內容，所以我們就可以操縱這些像素。而符號表征派學者認為，因為我們同樣可以用符號表征的方法來表現我們所理解的事物，所以我們就可以操縱這些符號。但他們其實都犯了一樣的錯誤。人的大腦內其實充滿了神經活動的重要載體。

Karen Hao：許多人依然認為符號性表征是人工智能技術所采用的方法之一。對此您怎么看？

Geoffrey Hinton：你說的沒錯。我的好朋友赫克托?萊維斯克就認為符號性方法在人工智能領域發揮了重要作用。我雖然并不認同他的看法，但非常合理的符號性方法確實值得一試。然而，我的最終猜想是，我們會認識存在于外部世界中的符號，而且還會使用重要載體進行內部的運算。

Karen Hao：對于未來人工智能的發展，您認為您最與眾不同的觀點是什么？

Geoffrey Hinton：我想我的叛逆觀點將會在五年之后成為主流觀點。我在八十年代所提出的大多數離經叛道的想法現在已經被大家接受了，而且很難找到不認同這些想法的人。所以說，現在我覺得我那些觀點已經沒那么與眾不同了

原文標題：“AI教父”Geoffrey Hinton：GPT-3遠不如人類大腦

文章出處：【微信公眾號：DeepTech深科技】歡迎添加關注！文章轉載請注明出處。

責任編輯：haq