最新的埃隆馬斯克的經典語錄是承諾不發展人工智能武器；特斯拉創始人埃隆·馬斯克領銜的美國科技圈大佬們簽署了一份協議，承諾不會發展致命的人工智能武器系統。

7月18日，科技網站The Verge報道稱，這是全球研究者和企業家非官方聯盟的最新舉措，反對人工智能技術的不當擴張。

協議警告，使用人工智能的武器系統“無需人工干預就能選定目標”，這造成了道德上和實操上的威脅。協議的簽署方認為，從道德上來說，取走一條人命的決定，“絕不應該委托給機器”，從實操方面來看，這種武器的擴散將“危害每個國家和個體的穩定”。

該協議于當天在瑞典斯德哥爾摩舉行的2018國際人工智能聯合會議（International Joint Conference on Artificial Intelligence）上發布，由生命未來研究所（Future of Life Institute，FLI）起草。

生命未來研究所是一個研究與推廣機構，致力于降低人類面臨的風險，尤其是人工智能技術開發過程中的可能出現的風險。該研究所此前已經發布了一些文件，號召聯合國對致命自主武器（lethal autonomous weapons，LAWS）設立新規。此次協議的簽署，也是相關人員首次承諾不會參與開發此類技術。

除了SpaceX和特斯拉CEO埃隆·馬斯克，簽署協議的知名科技界人士還包括，創造了阿爾法狗的谷歌系人工智能公司Deepmind的三位聯合創始人Shane Legg，Mustafa Suleyman和Demis Hassabis；通訊軟件Skype創始人Jaan Tallinn，以及其他世界最權威和前沿的人工智能研究者。

據科技網站Engadget報道，少數公司的技術，以及如何向政府機構和執法團體提供這些技術，面臨強烈爭議，于是這項協議應運而生。谷歌就曾向美國軍方提供人工智能科技，幫助他們在無人機影像中標記需要額外人工檢查的內容。類似地，亞馬遜由于向執法機關分享其面部識別技術而招致批評，微軟也因向美國移民和海關執法局（Immigration and Customs Enforcement，ICE）提供相關服務而遭到抗議。

在遭受猛烈抨擊之后，谷歌推出了新準則，作為公司研發人工智能技術的道德指導。準則中稱，不會將人工智能設計或應用于武器、監視或“其目的違反了廣為接受的國際法和人權準則”的技術。微軟也發布聲明稱，其與美國移民和海關執法局的合作僅限于電子郵件、日歷、消息和文檔管理，不包括任何面部識別技術。微軟也在號召美國國會對面部識別技術進行監管。

2015年，馬斯克為生命未來研究所的一個研究項目捐助了1000萬美元，該項目專注于確保人工智能會有益于人類。2017年，馬斯克，Deepmind的Hassabis和Suleyman也在生命未來研究所遞交給聯合國的信件上簽名，尋求對自主武器系統的立法。

馬斯克在自動駕駛技術方向錯了？

國外媒體USA Today發布文章稱，在本月的一個行業大會上，Velodyne、Ouster、Innoviz等初創公司展示了為什么它們認為激光雷達對于開發安全的自動駕駛汽車至關重要。所以說，沒有采用該技術的特斯拉CEO伊隆·馬斯克（Elon Musk）做錯了？

特斯拉首席執行官相信，他可以在不依靠一項技術的情況下打造出自動駕駛汽車和半自動駕駛汽車。該技術就是激光雷達（lidar），即使用激光來幫助汽車繪圖和穿梭于周圍的環境。

相反，特斯拉依靠攝像頭和雷達——在不使用激光雷達的情況下——來完成自動駕駛系統所需的大部分工作。

但其他在爭相開發自動駕駛汽車的汽車制造商和科技公司，比如Waymo、福特和通用汽車，都在押注激光雷達。

去年，通用汽車旗下自動駕駛技術公司Cruise Automation的首席執行官凱爾·沃格特(Kyle Vogt)在一篇文章中寫道，“激光雷達傳感器可帶來冗余和重疊的功能，這是打造無人駕駛汽車所需要的東西，讓車輛即便面對最具挑戰性的環境，也能夠應對。”

許多行業觀察家認為，激光雷達是開發安全的自動駕駛系統的一個重要部分。激光雷達，也被稱為光探測和測距，通常就是在自動駕駛汽車頂部旋轉的那個設備。

市場研究公司Navigant Research的分析師薩姆·阿布薩米德(Sam Abuelsamid)指出：“我認為你絕對需要所有的三種設備(攝像頭、激光雷達和雷達)，因為每一種設備都有它的優缺點。”例如，阿布薩米德提到攝像頭能夠識別物體，但在某些黑暗和低光照的條件下很難看清物體。而激光雷達則能夠從一個物體上反射激光，進而形成一個圖像，即使雨雪可能限制其有效性，也可能會避免照明問題。

由于這些優點和缺點，每種技術都提供一定程度的冗余，但阿布薩米德和其他人認為這是必需的。

“特斯拉正試圖以最低的成本來開發自動駕駛汽車，”阿布薩米德說，“他們試圖采用低成本的方法，并專注于軟件。而軟件的問題在于，它的好壞取決于你能提供給它的數據的好壞。”

鑒于最近發生了幾起涉及特斯拉汽車的Autopilot自動駕駛模式的碰撞事故，該公司在激光雷達上的做法引發了人們的質疑，盡管目前尚不清楚激光雷達是否會產生影響。

特斯拉拒絕就此事置評。

Cox Automotive公司負責新增長和開發的副總裁大衛·里尼多(David Liniado)擁有使用特斯拉Autopilot模式的經驗，因為他駕駛的是Model X。“我認為，他們的Autopilot是最安全的巡航控制系統，它是一個變革者。”里尼多說道。

他說，成本可能是驅使馬斯克談論激光雷達的原因。最近幾年，每輛車的激光雷達成本據估計高達7.5萬美元。但業內人士表示，該組件的價格未來將會大幅下跌。

激光雷達初創公司Cepton的業務發展總監米奇·胡蒂安(Mitch Hourtienne)本月在伊普西蘭蒂舉行的激光雷達大會上預測，公司最終可能會將產品價格降低到200美元以下。

作為激光雷達領域的領先公司，Velodyne此前宣布，其部分傳感器的成本將削減至4000美元左右。Angus Pacala的首席執行官兼聯合創始人安格斯·帕卡拉(Angus Pacala)也在大會上表示，其公司有一款激光雷達設備售價3500美元。

胡蒂安表示，激光雷達價格下降非常重要，因為消費者不一定愿意為該技術支付額外的費用。他還指出，汽車制造商必須向消費者推銷這項技術在安全性方面的好處。通用汽車的沃格特在Medium上發文稱，公司對激光雷達初創公司Strobe的收購，將使得其自動駕駛汽車的激光雷達成本降低99%。

在大會上，Velodyne、Ouster以及Blackmore、Innoviz和TetraVue等其它公司的代表與胡蒂安一起討論了他們的技術方案，以及他們如何將激光雷達設備做得足夠小而不引人注目，成本如何降低。

在他的演講中，胡蒂安展示了一輛白色車輛在街道上行駛的畫面，說明激光雷達是如何繪制區域圖像的。他可以指向騎自行車者、走動的行人以及汽車周圍的黑色氣泡的圖像，顯示出激光雷達沒有聚焦的地方。

那次展示是記者在大會舉行期間看到的幾次展示之一，另外的展示活動包括在舉辦大會的酒店周圍的公共道路上進行駕駛演示。胡蒂安的演示顯示出計算機生成的各種顏色的物體圖像，因此它們很容易辨認。

Innoviz北美區總經理阿迪蒂亞·斯里尼瓦桑（Aditya Srinivasan）通過一個小球來以一種非常簡單的方式說明激光雷達的運作原理。他把球扔到地上，以此模擬說明設備會發出光或激光，在光或激光反彈到物體上后，測量飛行時間來創建一個圖像地圖。

斯里尼瓦桑表示，他的公司將在未來幾年為寶馬的各種車型提供激光雷達設備。他說，在無人駕駛汽車中，“該機器必須要比你我都更能感知周圍的環境。”

他指出，擁有感知能力對機器來說很重要，畢竟打造能在公路上高速行駛的機器人本身就存在風險。

Cox Automotive的林尼多說，激光雷達能夠推動自動駕駛汽車的發展，因為它有強大的功能，如果價格降下來的話，在特定情況下它會開始變得很有經濟效益。Cox Automotive是Ouster的投資者。

“作為繪圖數據收集的核心部分，它帶來了我們以前從未見過的數據抽取能力，因為哪怕是道路上的一條裂縫它都能繪出圖來。”林尼多說道。

未來，激光雷達和其它的自動駕駛汽車組件面臨的主要問題之一可能是缺乏技術標準。阿布薩米德指出，隨著更多的自動駕駛汽車和半自動駕駛汽車開始在公共道路上測試，可能會出現更多的潛在問題。

阿布薩米德說，基于特朗普政府對監管的厭惡，這種努力的責任很可能會落在汽車行業和各州政府身上。他認為，州政府應當要求企業在讓汽車上路行駛之前先進行測試。

當被問及在相關行動被采取之前是否可能會發生更多的碰撞事故時，阿布薩米德說，“很不幸，這很可能會發生。”