人工智能正以多種方式進入我們的生活——手機智能助手幫助我們完成一系列基礎任務，智能家電能自動打掃我們的房屋，地圖導航指揮著我們該駛向何方。

在未來的幾年中，無論是在家中還是在其他環境中，機器人都可以通過多種方式為人類用戶提供幫助。為了更直觀，機器人應該能夠遵循自然語言的命令和說明，因為這使用戶可以像與其他人一樣與他們進行通信。

可解釋性AI（XAI）是人工智能研究的一個分支，它的關注點在于如何提升人工智能之于人類的可信任度。要實現機器人和人一起和諧工作的愿景，可信度發揮著至關重要的作用。XAI便致力于開發讓人類感覺值得信賴的人工智能系統，以促進它們更好地融入人類社會。

考慮到這一點，麻省理工學院的大腦、思維和機器中心的研究人員最近開發了一種基于采樣的機器人計劃程序，可以訓練該程序來理解自然語言命令的序列。他們開發的系統發表在arXiv上預先發表的一篇論文中，該系統將深度神經網絡與基于采樣的計劃程序結合在一起。

進行這項研究的研究人員之一安德烈·巴布（Andrei Barbu）表示：“出于安全考慮，并且因為語言是詢問您想要的東西的最便捷界面，確保我們家中的未來機器人能夠理解我們是非常重要的。” “我們的工作結合了三方面的研究：機器人計劃，深度網絡以及我們自己的機器如何理解語言的工作。總體目標是僅給機器人提供一些句子含義的示例，并使其遵循新的命令，從未聽過的新句子。”

Barbu和他的同事進行的這項研究的深遠目標是更好地理解肢體語言交流。實際上，雖然現在已經很好地理解了語音交流背后的功能和機制，但大多數在動物和人類之間進行的交流都是非語言的。更好地理解肢體語言可能會導致開發更有效的機器人與人之間交流的策略。因此，麻省理工學院的研究人員一直在探索將句子翻譯成機器人動作的可能性，反之亦然。他們最近的研究是朝這個方向邁出的第一步。

進行這項研究的另一位研究員郭延齡（Yen-Ling Kuo）表示：“機器人規劃人員在探索機器人可以做什么然后讓機器人執行動作方面非常了不起。” “我們的作品需要一個句子，將其分解成小塊，這些小塊被翻譯成小的網絡，然后重新組合在一起。”

就像語言是由可以按照語法規則組合成句子的單詞組成的一樣，由Barbu，Kuo和他們的同事Boris Katz開發的網絡由經過培訓的，可以理解單個概念的較小網絡組成。當組合在一起時，這些規則網絡可以發現并代表整個句子的含義。

無獨有偶，加州大學洛杉磯分校的研究團隊最近也在嘗試讓機器人向人類用戶解釋它的行動的內容和目標，并證明這么做是有效的。有趣的是，可信賴度最高的智能自我解釋形式，與性能最佳的學習算法并不對應。可見，機器人的XAI能力并不相同——我們不能只單獨優化它的性能或自我解釋的能力。這要求在設計機器人的過程中既要考慮良好的性能，又要考慮到可信賴度高的自我解釋形式。

用戶演示、機器學習、任務表現和解釋能力的關系圖

機器人如何才能做到最高效率地執行用戶指定的任務？用戶又應如何回應機器人的自我解釋行為呢？為了回答這兩個問題，加州大學洛杉磯分校的研究團隊決定做一個實驗，他們嘗試讓機器人學習如何擰開藥瓶的瓶蓋。實驗中，一個研究人員戴著一個有觸覺記憶系統的手套，當他打開瓶子時，手套會記錄下人手的姿勢和力量。這能幫助機器人通過象征性信息和觸覺信息來了解人類的行為。

象征性信息是指有意義的行為動作，比如抓取的動作。觸覺信息指的是與身體姿勢和動作相關的感覺，例如手指合攏的感覺信息。機器人在吸收了象征性信息后，會對完成打開瓶子的任務所需的步驟序列進行編碼。在接觸觸覺信息后，機器人將形成一種觸覺模型，該模型幫助機器人“想象”著自己處于人類用戶的視角，并試著預測人類在這種場合會采取什么行動。
?

?

事實證明，當把象征性信息和觸覺信息結合在一起輸入系統時，機器人能夠達到自身的最佳性能。與單獨分開輸入這兩種信息相比，同時獲得這兩種信息的機器人在依照步驟來執行任務和通過夾持器進行實時感知方面表現得更好。也就是說，要讓機器人高效率地執行任務，共同輸入這兩項信息是必不可少的。

象征性信息的總結和語法符號推導過程示意圖

而MIT研究人員開發的新型機器人計劃器，則更為深入的闡述了這一實驗原理，它具有兩個關鍵組成部分。第一個是遞歸的分層深度神經網絡，它控制計劃者如何探索周圍的環境，同時還預測何時計劃的路徑很可能實現給定的目標，并分別估計機器人可能進行的每個動作的有效性。第二個是經常在機器人技術研究中使用的基于采樣的計劃程序，稱為快速探索隨機樹（RRT）。

MIT團隊的Barbu解釋說：“我們計劃人員的主要優勢在于，它幾乎不需要培訓數據。” “如果你想教一個機器人，你不會在家中給它提供數以千計的例子，但是有幾個例子是非常合理的。訓練機器人應該采取與訓練狗一樣的動作。”

盡管過去的研究還探索了通過口頭命令引導機器人的方法，但其中介紹的技術通常僅適用于離散環境，在這種環境中，機器人只能執行有限的動作。另一方面，研究人員開發的計劃程序可以支持與周圍環境的各種交互，即使它們涉及到機器人從未遇到過的物體。

對此，加州大學洛杉磯分校研究人員考慮的是，既然機器人能夠理解自己要做的任務，它又該怎么向人類用戶解釋它的行為呢？這種自我解釋真的能促進人類對機器人的信任嗎？因此在他們的實驗中，團隊為人類添加了自我解釋的流程：在機器人完成打開藥瓶的任務后，它需用文本記錄的形式提供了一個任務執行總結。團隊邀請了150名參與者，分成五組，觀察機器人執行打開藥瓶的任務的過程。

任務完成后，機器人給其中四組提供不同的任務解釋——基于象征性信息的解釋文本能詳細說明每個步驟的動作內容，基于觸覺信息的解釋文本則著重于說明機械手臂夾持的位置和姿勢，總結性的解釋文本則將象征性信息和觸覺信息結合在一起，而第五組的參與者只能觀看機器人開瓶子的視頻，沒有得到任何文本反饋。

A）解釋面板實物；B）象征性解釋文本；C）觸覺說明文本；D）文字說明總結

MIT團隊發現，同時提供象征性和觸覺信息的文本解釋最能培養機器人與人類之間的信任。有趣的是，完全基于觸覺信息的解釋文本在增強人機之間的信賴感方面并無貢獻，這表明人類更喜歡機器人逐步解釋它們工作的內容。

MIT的Kuo對此的解釋是：“當我們的網絡混亂時，計劃者需要負責接管工作，弄清楚該怎么做，然后網絡下次可以接手該做什么時就可以接管。” “我們的模型是由零件組成的，這也賦予了它另一個令人希望的特性：可解釋性。”

當他們無法完成給定的任務時，許多現有的機器學習模型將無法提供有關出了什么問題以及遇到的問題的信息。這使得開發人員更難識別模型的缺點并有針對性地更改其架構。另一方面，由Barbu，Kuo和Katz創建的機器人計劃器的深度學習組件逐步展示了其推理能力，闡明了所處理的每個單詞傳達的關于世界的信息以及它如何將分析結果結合在一起。這使研究人員能夠找出導致其過去無法成功完成給定操作的問題，并進行體系結構更改以確保其在將來的嘗試中能夠成功。

Barbu說：“我們對機器人可以在很少的人類幫助下快速學習語言并快速學習新單詞的觀點感到非常興奮。” “通常，深度學習被認為是非常耗費數據的；這項工作強化了這樣一種觀念，即當您建立正確的原則（組成性）并讓代理執行有意義的動作時，他們不需要那么多的數據。”

MIT研究人員通過一系列實驗評估了規劃器的性能，同時還將其性能與現有RRT模型的性能進行了比較。在這些測試中，計劃人員成功地獲取了單詞的含義，并使用所學的知識來表示以前從未遇到過的句子序列，其表現優于與之相比的所有模型。

將來，由這組研究人員開發的模型可以為能夠更有效地處理和遵循自然語言命令的機器人的開發提供信息。目前，他們的計劃者允許機器人處理和執行簡單的指令，例如“撿起桌子上的盤子”，但仍無法捕捉到更復雜的指令的含義，例如“當玩具落在盤子上時撿起娃娃”地板并清潔它。因此，MIT的Barbu，Kuo和Katz目前正在嘗試擴大機器人可以理解的句子范圍。

Kuo說：“我們的長期未來目標是探索逆向計劃的思想。” “這意味著，如果我們可以將語言轉變為機器人動作，那么我們也可以觀察動作并詢問機器人'當他們這樣做時，人們在想什么？” 我們希望這將成為解鎖機器人肢體語言的關鍵。”

這兩項研究最有趣的結果是，機器人的良好性能與讓它們博取人類信任的因素是完全不同的。這也突顯了未來人工智能和機器人研究領域的重要目標：專注于追求機器性能和自我解釋能力，而不厚己薄彼。

XAI能力并非兩個可以實現互補的因素，因此在構建AI系統時，兩者都是需要著重考慮的首要目標。這項工作也是系統研究人機關系發展前景的關鍵環節，若研究人員能從中得出具有突破性的成就，那么，未來研究中更具挑戰性的一環將是從“我相信機器人做X”到“我相信機器人”。

機器人要想在人們的日常生活中占有一席之地，必須先獲得人類的信任。了解機器人如何提供有助于增進人類的信賴度的自我解釋文本，是使人類和機器人能夠共同工作、和睦相處的重要一步。
責任編輯；zl