這是一篇客座文章。這里所表達(dá)的觀點(diǎn)只是作者的觀點(diǎn)，并不代表電子發(fā)燒友的立場。

大多數(shù)人把人工智能和機(jī)器人視為不可分割的一對，認(rèn)為它們是一回事。事實上，“人工智能（artificial intelligence）”一詞很少在研究實驗室使用。特定于某些人工智能和其他智能技術(shù)的術(shù)語更為相關(guān)。每當(dāng)我（作者，以下簡稱我）被問到“這個機(jī)器人是由人工智能操作的嗎？”這個問題時，我都會猶豫是否應(yīng)該把我們開發(fā)的算法稱為“人工智能”。

20世紀(jì)50年代，John McCarthy和Marvin Minsky等科學(xué)家首次使用人工智能。幾十年來，人工智能經(jīng)常出現(xiàn)在科幻小說或電影中。現(xiàn)在，人工智能被應(yīng)用于智能手機(jī)虛擬助理和自動駕駛車輛算法中。無論是歷史上還是今天，人工智能都可能意味著許多不同的東西，這可能會引起混亂。

然而，人們常常有這樣的偏見，認(rèn)為人工智能是人類智能的人工實現(xiàn)形式。而這種先入為主的觀念可能來自于我們作為人類的認(rèn)知偏見。

We judge robots’ or AI’s tasks in comparison to humans

不要將機(jī)器人或AI直接與人類相比較

如果你在2017年碰巧關(guān)注了這條新聞，那么當(dāng)DeepMind開發(fā)的人工智能AlphaGo擊敗9段圍棋選手Lee Sedol時，你有什么感覺？你可能會感到驚訝或恐懼，認(rèn)為人工智能已經(jīng)超越了天才的能力。

盡管如此，贏得一場有著指數(shù)級可能動作（如圍棋）的游戲只意味著人工智能已經(jīng)超過了人類智力的一個非常有限的部分。IBM的人工智能Watson也是如此，它在“Jeopardy！”中競爭 —— 這是一個電視智力競賽節(jié)目。

我相信很多人都對我在麻省理工學(xué)院仿生機(jī)器人實驗室（MIT Biomimetic Robotics Laboratory）研制的Mini Cheetah的后仰動作印象深刻。雖然向后跳躍和落地是非常動態(tài)的、引人注目的，當(dāng)然對人類來說也是困難的，但與需要更復(fù)雜反饋回路的穩(wěn)定行走相比，特定運(yùn)動的算法非常簡單。完成對我們來說似乎很容易的機(jī)器人任務(wù)通常是極其困難和復(fù)雜的。出現(xiàn)這種差距是因為我們傾向于根據(jù)人類標(biāo)準(zhǔn)來考慮任務(wù)的難度。

我們傾向于將人工智能的功能泛化。例如，當(dāng)我們在街上看到有人在做后空翻時，我們傾向于認(rèn)為這個人擅長走路和跑步，也有足夠的靈活性和運(yùn)動能力，擅長其他運(yùn)動。一般來說，很可能對這個人的這種判斷不會是錯誤的。

然而，我們也能將這一判斷應(yīng)用于機(jī)器人嗎？我們很容易根據(jù)對特定機(jī)器人運(yùn)動或功能的觀察來概括和確定AI性能，就像我們對人類所做的那樣。

通過觀看OpenAI（人工智能研究實驗室）機(jī)器人手解決魔方的視頻，我們認(rèn)為人工智能可以執(zhí)行所有其他簡單的任務(wù) —— 因為它執(zhí)行了如此復(fù)雜的任務(wù)。但我們忽略了這樣一個事實，即人工智能的神經(jīng)網(wǎng)絡(luò)只針對有限類型的任務(wù)進(jìn)行訓(xùn)練。例如，如果情況發(fā)生變化，在操作魔方時將它倒置，則算法的工作效果可能不如預(yù)期的好。

與人工智能不同，人類可以將個人技能結(jié)合起來，并將其應(yīng)用于多項復(fù)雜任務(wù)。一旦我們學(xué)會了如何解魔方，即使被告知要倒持魔方，我們也能快速地處理魔方。而大多數(shù)機(jī)器人算法需要新的數(shù)據(jù)或重新編程才能做到這一點(diǎn)。

能用勺子在面包上涂果醬的人也能用叉子涂果醬 —— 這是顯而易見的。我們理解“傳播”堵塞的概念，并能很快習(xí)慣使用完全不同的工具。此外，雖然自動駕駛車輛需要每種情況的實際數(shù)據(jù)，但人類駕駛員可以根據(jù)預(yù)先學(xué)習(xí)的概念做出理性決策，以應(yīng)對無數(shù)情況。這些例子顯示了人類智能的一個特征，與機(jī)器人算法形成了鮮明對比，機(jī)器人算法無法在數(shù)據(jù)不足的情況下執(zhí)行任務(wù)。

哺乳動物持續(xù)進(jìn)化了6500多萬年。人類花在學(xué)習(xí)數(shù)學(xué)、使用語言和玩游戲上的全部時間加起來也不過10000年。換句話說，人類花了大量時間發(fā)展與生存直接相關(guān)的能力，如行走、跑步和使用雙手。

因此，計算機(jī)的計算速度比人類快得多并不奇怪，因為計算機(jī)最初就是為了這個目的而開發(fā)的。同樣，計算機(jī)不能像人類那樣輕易獲得自由使用手和腳的各種能力也很自然，因為這些技能是通過1000多萬年的進(jìn)化獲得的。

這就是為什么將機(jī)器人或人工智能在演示中的表現(xiàn)與動物或人類的能力進(jìn)行比較是不合理的。在麻省理工學(xué)院觀看Cheetah機(jī)器人穿越田野、跨越障礙的視頻時，就認(rèn)為像動物一樣行走和奔跑的機(jī)器人技術(shù)已經(jīng)成熟可就太輕率了。

許多機(jī)器人演示仍然依賴于在有界情況下為特殊任務(wù)設(shè)置的算法。事實上，研究人員傾向于選擇看似困難的演示，因為這會給人留下深刻印象。然而，這種難度是從人的角度考慮的，這可能與實際的算法性能無關(guān)。

在任何邏輯思維之前，人類很容易受到瞬間和反思性感知的影響。當(dāng)研究對象非常復(fù)雜，很難進(jìn)行邏輯分析時，這種認(rèn)知偏見就會加強(qiáng)，例如，一個使用機(jī)器學(xué)習(xí)的機(jī)器人。

那么我們?nèi)祟惖恼J(rèn)知偏見從何而來？我相信這是由于我們的心理傾向，下意識地將我們所看到的事物進(jìn)行了擬人化。人類已經(jīng)進(jìn)化為社會性動物，在這個過程中可能會發(fā)展出相互理解和同情的能力。我們將主體擬人化的傾向也來自于同樣的進(jìn)化過程。

人們在提到編程算法時傾向于使用“教學(xué)機(jī)器人（teaching robots）”這一表達(dá)。然而，我們習(xí)慣于使用擬人化表達(dá)。正如18世紀(jì)哲學(xué)家David Hume所說，“人類有一種普遍的傾向，即把所有的生命都設(shè)想得像他們自己。”

當(dāng)然，我們不僅將受試者的外表擬人化，還將他們的心理狀態(tài)擬人化。例如，當(dāng)波士頓動力公司（Boston Dynamics）發(fā)布了一段工程師踢機(jī)器人的視頻時，許多觀眾的反應(yīng)是“這太殘忍了”，他們“同情機(jī)器人”。

一條評論說，“有一天，機(jī)器人會對那個工程師進(jìn)行報復(fù)”受到了歡迎。實際上，工程師只是在測試機(jī)器人的平衡算法。然而，在理解這種情況的任何思維過程之前，像動物一樣的機(jī)器人的攻擊性踢腿動作和掙扎動作會瞬間傳遞到我們的大腦，給我們留下深刻的印象。就像這樣，這種瞬間的擬人對我們的認(rèn)知過程有著深刻的影響。

Humans process information qualitatively， and computers， quantitively

人類定性地處理信息，計算機(jī)定量地處理信息

環(huán)顧四周，我們的日常生活充滿了算法，運(yùn)行這些算法的機(jī)器和服務(wù)就可以看出這一點(diǎn)。所有算法都以數(shù)字為基礎(chǔ)。我們使用諸如“目標(biāo)函數(shù)（objective function）”之類的術(shù)語，這是一個代表特定目標(biāo)的數(shù)值函數(shù)。許多算法的唯一目的是達(dá)到該函數(shù)的最大值或最小值，而算法的特性因其實現(xiàn)方式而異。

贏得圍棋或國際象棋比賽等任務(wù)的目標(biāo)相對容易量化。量化越容易，算法工作得越好。相反，人類往往在沒有定量思考的情況下做出決策。

舉個“打掃房間”的例子，我們每天的清潔方式都有細(xì)微的差別，這取決于情況、房間是誰的以及一個人的感受。我們是否試圖在這個過程中最大化某個功能？我們沒有這樣做。清潔的行為是以“足夠清潔”為抽象目標(biāo)進(jìn)行的。此外，“足夠”的標(biāo)準(zhǔn)很容易改變。這一標(biāo)準(zhǔn)在人與人之間可能會有所不同，特別是在家庭成員或室友之間會引起沖突。

還有許多其他的例子。當(dāng)你每天洗臉時，你打算用手的動作最大化哪些定量指標(biāo)？你擦得有多用力？選擇穿什么？選擇晚餐吃什么？選擇先洗哪個盤子？這樣的例子不勝枚舉。我們習(xí)慣于通過整合我們已有的信息來做出足夠好的決策。

然而，我們通常不會檢查是否每個決策都是優(yōu)化的。大多數(shù)情況下，我們不可能知道，因為我們必須用有限的數(shù)據(jù)滿足許多相互矛盾的指標(biāo)。當(dāng)我們和朋友在商店選購食品時，我們無法量化食品標(biāo)準(zhǔn)，并根據(jù)這些數(shù)值做出決定。

通常，當(dāng)一個人挑選某樣?xùn)|西時，另一個人會說“好！”或者建議另一種選擇。這與說這種蔬菜“是最佳選擇”截然不同，這更像是說“這已經(jīng)足夠好了”。

在設(shè)計我們期望機(jī)器人執(zhí)行的工作或服務(wù)時，人和算法之間的這種操作差異可能會帶來麻煩。這是因為當(dāng)算法基于定量值執(zhí)行任務(wù)時，人類的滿意度，即任務(wù)的結(jié)果，很難被完全量化。

要量化一項任務(wù)的目標(biāo)并不容易，因為該任務(wù)必須適應(yīng)個人偏好或不斷變化的環(huán)境，如上述房間清潔或洗碗任務(wù)。也就是說，為了與人類共存，機(jī)器人可能需要進(jìn)化，而不是優(yōu)化特定功能，而是實現(xiàn)“足夠好”。當(dāng)然，在現(xiàn)實生活中，后者更難實現(xiàn)，因為在現(xiàn)實生活中，你需要管理如此多的相互沖突的目標(biāo)和定性約束。

Actually， we do not know what we are doing

事實上，我們并不知道在做什么

在讀這篇文章之前，試著回憶一下你最近吃過的一頓飯。你還記得你吃了什么嗎？那么，你還記得咀嚼和吞咽食物的過程嗎？你知道你的舌頭當(dāng)時到底在干什么嗎？我們的舌頭為我們做了很多事情。

它幫助我們把食物放進(jìn)嘴里，在牙齒間分配食物，吞下細(xì)嚼過的食物，甚至在需要時把大塊食物送回牙齒。我們當(dāng)然可以做到這一切，即使在和朋友交談時，也可以用你的舌頭來控制發(fā)音。

我們有意識的決定在多大程度上促進(jìn)了我們同時完成如此多復(fù)雜任務(wù)的舌頭運(yùn)動？看起來好像我們在隨心所欲地移動舌頭，但事實上，更多的時候，舌頭會自動移動，從我們的意識中接受高級命令。這就是為什么我們不能記住吃飯時舌頭的詳細(xì)動作。首先，我們對他們的行動知之甚少。

我們可能認(rèn)為我們的手是最有意識地控制的器官，但許多手的動作也會自動地、無意識地發(fā)生，或者最多是潛意識地發(fā)生。對于那些不同意的人，試著把鑰匙之類的東西放進(jìn)口袋，然后拿出來。

在這短短的一瞬間，無數(shù)的微操作立即無縫地協(xié)調(diào)完成了任務(wù)。我們通常無法單獨(dú)感知每一個動作。我們甚至不知道應(yīng)該把它們分成哪些單位，所以我們把它們統(tǒng)統(tǒng)表達(dá)為抽象的詞語，如整理、清洗、涂抹、擦拭等。

這些動詞都是定性定義的。它們通常是指精細(xì)動作和操作的集合，其組成隨情況而變化。當(dāng)然，即使是孩子們也很容易理解和思考這個概念，但從算法開發(fā)的角度來看，這些詞是無限模糊和抽象的。

還是舉一個在面包上涂抹花生醬來做三明治的例子。我們可以展示是如何做到這一點(diǎn)的，并用幾句簡單的話進(jìn)行解釋。讓我們假設(shè)一個稍微不同的情況 —— 設(shè)有一個外星人使用與我們相同的語言，但對人類文明或文化一無所知（我知道這個假設(shè)已經(jīng)自相矛盾了，但請容忍我。）

我們能在電話里解釋一下如何做花生醬三明治嗎？我們可能會在解釋如何從罐子里舀出花生醬時卡殼。即使是抓取面包片也不是那么簡單，我們必須用力抓住面包，這樣才能涂抹花生醬，但又不能太用力，以免破壞軟面包的形狀。

換句話說，我們很容易想到如何抓住面包，但要通過語言或文字來表達(dá)這一點(diǎn)并不容易，更不用說在函數(shù)中了。即使是一個人在學(xué)習(xí)一項任務(wù)，我們能通過電話學(xué)習(xí)木匠的工作嗎？我們能通過電話準(zhǔn)確地糾正網(wǎng)球或高爾夫球的姿勢嗎？很難辨別我們所看到的細(xì)節(jié)在多大程度上是有意或無意完成的。

我的觀點(diǎn)是，并不是我們用手和腳所做的一切都可以用我們的語言直接表達(dá)出來。在連續(xù)動作之間發(fā)生的事情通常會無意識地自動發(fā)生，因此我們用一種比實際發(fā)生方式簡單得多的方式來解釋我們的動作。

這就是為什么我們的行為看起來很簡單，為什么我們忘記了它們是多么不可思議。表達(dá)的局限性常常導(dǎo)致低估實際的復(fù)雜性。我們應(yīng)該認(rèn)識到這樣一個事實，即語言描述的困難會阻礙詞匯發(fā)展不完善領(lǐng)域的研究進(jìn)展。

直到最近，人工智能已實際應(yīng)用于與數(shù)據(jù)處理相關(guān)的信息服務(wù)中。今天一些突出的例子包括語音識別和面部識別。現(xiàn)在，我們正在進(jìn)入一個人工智能的新時代，它可以在我們中間有效地進(jìn)行物理服務(wù)。也就是說，復(fù)雜物理任務(wù)的自動化時代即將到來。

特別是，我們?nèi)找胬淆g化的社會構(gòu)成了巨大的挑戰(zhàn)。勞動力短缺不再是一個模糊的社會問題。我們迫切需要討論如何開發(fā)增強(qiáng)人類能力的技術(shù)，使我們能夠?qū)Ｗ⒂诟袃r值的工作，追求人類特有的生活。

這就是為什么不僅是工程師，而且來自各個領(lǐng)域的社會成員都應(yīng)該提高他們對人工智能和無意識認(rèn)知偏見的理解。如上所述，人們很容易誤解人工智能，因為它在本質(zhì)上與人類智能不同。

對人類來說很自然的事情可能是對人工智能和機(jī)器人的認(rèn)知偏見。如果不清楚我們的認(rèn)知偏見，我們就無法為技術(shù)研究、應(yīng)用和政策設(shè)定適當(dāng)?shù)姆较颉榱耸箍茖W(xué)界的發(fā)展富有成效，我們需要敏銳地關(guān)注我們的認(rèn)知，并在促進(jìn)技術(shù)的適當(dāng)發(fā)展和應(yīng)用過程中進(jìn)行慎重的辯論。

Sangbae Kim是麻省理工學(xué)院仿生機(jī)器人實驗室的領(lǐng)導(dǎo)者。上面這篇文章改編自Kim在6月份為Naver Labs發(fā)布的博客。

編輯：jq