近日，在日內(nèi)瓦聯(lián)合國舉行了常規(guī)武器公約關(guān)于致命自主武器系統(tǒng)的政府專家小組第一次會議。像“停止殺手機器人運動”這樣的組織正在鼓勵聯(lián)合國推進自主武器的國際監(jiān)管，這很好，因為談?wù)撨@些問題將如何影響機器人和社會的未來是一件非常重要的事情。

然而近日看到了一個視頻，讓我覺得這是一場令人不安的自主武器辯論。在Elon Musk的“未來生活研究所”的支持下制作的這部名為“屠宰機器人”的視頻將圖像暴力與技術(shù)合理性相結(jié)合，想象一個非常暗淡的場景：一個虛構(gòu)的不久的將來，自主攜帶爆炸物的微型無人機在世界各地正在殺死數(shù)千人。

我們不會在這里嵌入視頻，因為它包含了一些暴力場景，包括教室里的恐怖襲擊（！）。

讓我感到非常失望的是機器人和人工智能研究人員，我本來是很尊重的，他們會支持這種聳人聽聞的說法，這似乎是為了讓人們感到震驚和恐慌，而不是傳遞任何有用的信息，來了解實際的問題是什么。這里的信息似乎是，如果你有興趣討論這些問題，或者你認為可能有其他可能更有效的方法來塑造未來的自主武器，除了呼吁禁止，那么你就和***站在一邊。這是一種非常熟悉的修辭形式，它被證明是有效的，因為它的目的不是要傳達事實，而是利用情緒和恐懼。另一個問題是，像這樣的視頻，由學(xué)者創(chuàng)建和推廣，可能會讓公眾更加不信任和害怕機器人，這是機器人界長期以來一直反對的事情。

就個人而言，我不是“殺手機器人”，也不是“有意義的人類控制之外的自主武器”。在這一點上，我覺得很難支持徹底的禁止，因為我認為這樣做對于一個尚未完全表征的復(fù)雜問題是一個潛在的無效的解決辦法。人工智能和武器控制專家們?nèi)匀辉谟懻撌裁矗貏e是應(yīng)該受到管制或禁止，以及如何執(zhí)行。說“我們有機會阻止你剛才看到的未來”，正如加州大學(xué)伯克利分校教授斯圖爾特·拉塞爾（Russell，“屠宰機器人”的創(chuàng)造者之一）在錄像結(jié)束時所做的那樣，是一種過于簡單化，在我看來，自主武器不會阻礙無人機的小型化，不會阻礙面部識別技術(shù)的進步，也不會妨礙二者的融合，這就是“屠宰機器人”呈現(xiàn)的方案。

當(dāng)被問及這部電影是否依賴恐怖主義時，羅素的一位同事，新南威爾士大學(xué)的一位AI教授托比·沃爾什（Toby Walsh）也不同意。他說：“這不是恐懼。“俄羅斯駐聯(lián)合國大使剛才對聯(lián)合國常設(shè)委員會會議說，我們不用擔(dān)心致命的自主武器，因為它們太遙遠了，不必擔(dān)心。相反，這部電影的目的是要證明我們離自主武器有多近。它顯示了如果把一些現(xiàn)有的技術(shù)和這種技術(shù)的濫用放在一起，會發(fā)生什么事情。

兩年前，我回應(yīng)了第一封公開信，呼吁禁止攻擊性自主武器，提出另一種觀點，即為什么自主武器也可能是有益的。拉塞爾和沃爾什以及麻省理工學(xué)院教授馬克斯·泰格馬克（Max Tegmark）在IEEE《科技縱覽》出版的一篇文章中做了回應(yīng)，該文章從以下幾點開始：

“我們歡迎埃文·阿克曼（Evan Ackerman）為擬議禁止攻擊性自主武器的討論做出貢獻。這是一個復(fù)雜的問題，雙方都有需要仔細權(quán)衡的有趣論據(jù)。“

我完全同意。現(xiàn)在進行這個討論是為了更加和平的未來而努力的最好的方式，但是為了做到這一點，我們必須進行討論，而不是制造嚇人的視頻來詆毀我們不同意的人，同時加強不切實際和日益消極的看法，人們已經(jīng)有了機器人技術(shù)。