近日，Nature網站發布了一篇自動駕駛評論文章，從責任和安全兩個方面，對現階段自動駕駛面臨的問題展開了分析，作者認為："人們必須保留自動駕駛汽車的控制權。”同時，文章還對立法部門提出了6條建議。

上個月，發生了第一次行人在自動駕駛汽車中喪生的事故。一輛由自主算法控制的汽車撞向了亞利桑那州坦佩市橫過馬路的女子。車內的安全駕駛員沒有能阻止事故的發生。

雖然這種事故很少發生，但是隨著越來越多的車輛在沒有人為干預的情況下駕駛，在公共道路上進行測試，其發生率可能會上升。在過去的一年中，一些國家通過法律為路測鋪平了道路。例如，新加坡修改了“道路交通法”，允許自動駕駛汽車在指定地區行駛。瑞典運輸署允許無人駕駛巴士在斯德哥爾摩北部運行。在美國，眾議院通過了自動駕駛法案（SELF DRIVE Act）來協調各州的法律。美國參議院正在籌備類似的政策，票選支持AV START法案來進一步放寬對無人駕駛車輛的審判。

政策制定者們熱衷于通過借助自動駕駛汽車的潛力，來減少道路擁堵，空氣污染和道路交通事故。便宜的乘車服務也可以減少私人擁有的汽車數量。機器智能可以使駕駛更省油，同時減少排放。自動駕駛汽車可以幫助拯救世界上每年因碰撞事故而喪失的125萬人的生命，這些事故許多是由于人為錯誤造成的。

政府希望通過法律來實現自動駕駛（參見“Road to autonomy”）。他們通過暫時釋放滿足某些符合運輸安全規則的自動駕駛汽車開發者來進行路測。這些規則包括要求操作人員在車內，車輛具有方向盤，制動器和反光鏡等安全特征，并且這些特征始終能夠正常工作。一些開發者正在維護這些方面，但他們并沒有義務這沒做。因為無法確保自動駕駛車輛符合當前汽車的安全標準。

同時，更廣泛的政策影響沒有得到解決。由于個人汽車擁有率下降，政府將損失數十億美元的稅收。數以百萬計的出租車，卡車和公車司機將失去工作。自動駕駛汽車所依賴的機器學習算法遠遠不夠發達，無法做出可能意味著行人或司機生死的選擇。

政策制定者需要與學術界和制造商密切合作，設計適當的法規。這是非常具有挑戰性的，因為這項研究涉及許多學科。

在這里，我們強調需要緊急關注的兩個方面——責任和安全。

責任

與其他生產商一樣，自動駕駛汽車的開發商也承擔法律責任，賠償由于其產品缺陷設計，制造和銷售而造成的損失。潛在的責任風險對于無人駕駛汽車來說很好，因為復雜的系統總會以意想不到的方式產生相互作用。

制造商如果希望減少對他們提出的責任索賠金額。一種方法是通過教育消費者如何運作并提醒他們注意安全，來減少產品被誤用的可能性。例如，藥物開發者提供劑量和副作用的信息；電子制造商發布指示和警告。這種指導塑造了消費者的期望同時也促進了滿意度。然而，就像智能手機一樣，自動駕駛汽車也由復雜的技術支撐，這些技術一般難以解釋或被理解。

相反，開發人員正在設計這些產品以便于使用。人們更有可能購買一種看似簡單的產品，并且可以很快做出復雜的事情，從而提高效用。但是，用戶無法預測底層系統如何工作，或識別問題并修復問題。例如，很少有智能車的司機知道發動機是如何校準的。同樣，自動駕駛汽車中的乘客也不會知道為什么車輛在道路上選擇急轉向，或者為什么不趕超慢行車輛。

更糟的是，深度學習算法本質上是不可預測的。它們建立在由以往經驗所塑造的不透明決策過程之上。每輛車都會受到不同的訓練。沒有人（即使算法設計師）也無法確切知道自動駕駛汽車在各種情況下的表現。

沒有法律規定汽車可以被視為安全之前需要多少深度學習的訓練，也沒有規定訓練有何標準。來自不同制造商的汽車在緊急情況下可以采取不同的反應方式。有的可能會繞過障礙物轉彎，而還有的可能會踩剎車。罕見的交通事件，例如卡車在風中翻倒，尤其令人擔憂，并且讓無人駕駛汽車的訓練變得困難。

高級接口需要被用來告知用戶自動駕駛汽車的行為是否與往常相同。今天的儀表盤傳達了關于汽車速度和剩余燃料量的信息。明天的展示必須展示車輛的“意圖”和控制它們的邏輯；例如，他們可能會告訴乘客，由于只有10％的成功可能性，因此車輛不會超車。對應該傳遞的數據類型以及人們將如何解釋它們知之甚少。

用戶經常忽視信息，即使它被清晰地表達出來，其后果可能是生死攸關的問題。例如，幾乎有70％的航空公司乘客在航班之前不會檢查安全卡，盡管被問到。然而，這些卡片以簡單的方式和單頁，可以傳達重要信息，包括如何放置氧氣面罩并打開緊急出口。

自動駕駛車輛需要傳遞更復雜的信息。他們的傳感器和算法必須了解行人的行為，區分駕駛風格和適應照明變化。當他們不能時，用戶必須知道如何回應。

研究如何有效地呈現這些信息是至關重要的，同樣確保自動駕駛汽車用戶熟練使用該技術是立法需要努力的事情。

安全

自動駕駛汽車的安全和效率優勢依賴于計算機比人類做出更好，更快的決策。用戶輸入他們想要的目的地，然后將控制權交給計算機。完全自動駕駛尚未在交通中采用。人們仍然認為人類比機器更具靈活性，適應性和創造性，并能更好地應對變化或無法預料的情況7。因此，飛行員能夠在關鍵的計算機發生故障時通過線控飛行技術中掌握控制權。

公眾有權對全自動化保持謹慎。制造商需要解釋在關鍵系統失效時汽車如何保護乘客。無人駕駛汽車必須能夠安全停車，避免其危險，避免算法發生故障，其攝像機斷線或其內部地圖死機。但是這很難設計：例如，沒有攝像頭，這樣的車就看不到它要去的地方。

我們認為，總是需要某種形式的人為干預。無人駕駛汽車應該像飛機一樣對待，盡管這些系統是高度自動化的，但仍需要人員參與。自主車輛的當前測試要遵循這一原則。即使開發人員和監管機構協商通過了全自動駕駛，安全駕駛員仍然應該有。

盡管如此，讓人們參與其中還是會帶來安全問題。自動駕駛汽車應始終要求用戶具備最低水平的技能，并且對于一些人來說永遠不會容易操作。例如，認知障礙患者可能會發現很難運用這些技術并忽略控制。然而這個群體包括那些從自動駕駛車輛中獲益很多的人。例如，日益增加的老齡化人口，發生事故的風險升高，因為認知能力下降與年齡有關。例如，為大量老年人提供出行是自動駕駛技術在日本投資的巨大動力。

遠程監管可以監督無人駕駛汽車，就像空中交通管制員可以為飛機做這些事情一樣。但是需要多少監管人員才能保證這些車輛的網絡安全？監管人員太少也可能會造成事故。例如，在1991年，加利福尼亞州洛杉磯的一名不堪重負的空中交通管制員錯誤地將飛機降落在另一架飛機上。去年，醫生在香港發生一連串醫療失誤，導致病人不堪重負。

政策差距

目前和計劃中的立法都未能解決這些問題。豁免開發人員由于安全規則帶來風險。開發者并不總是需要報告系統故障或為車輛操作員建立能力標準。這種豁免也錯誤地認為人類的參與最終是不必要的。偏袒行業的用戶將削弱對已經懷疑的公眾的技術支持。

目前的立法回避了消費者的教育。美國的行為僅僅要求用戶在使用之前被告知該技術。沒有提到用戶的能力標準和定期的能力測試。沒有標準，很難判斷消費者教育是否足夠。沒有測試，事件的風險可能會增加。

向前進

我們呼吁決策者重新思考他們對自動駕駛汽車進行管理的方法，并在起草立法時考慮以下六點。

無人駕駛并不意味著不需要人類操作員。監管機構和制造商必須承認，自動化會改變人們從事的工作的性質。

用戶需要有關自動駕駛如何工作的信息。制造商必須研究對安全至關重要的設備（包括照相機，激光器和雷達）的限制和可靠性。如果可能，他們應該以可理解的形式向車輛操作員提供這些設備的數據。

運營商必須證明其能力。開發人員，研究人員和監管機構需要為自動駕駛汽車用戶達成一致的標準。勝任能力應由發證機構進行測試，并應補充現有駕駛許可證。特殊用戶應該對這些車輛有使用限制，就像在夜間禁止色盲駕駛員飛行一樣。

對用戶能力的定期檢查應是強制性的。監管機構，制造商和研究人員必須確定測試之間合適的時間間隔，以便隨著認知能力的變化和技術的發展，熟練程度得以保持。

應建立遠程監控網絡。制造商，研究人員和立法者需要為自動駕駛車輛建立監督系統。研究人員應有主管對一定數量的車輛進行安全監控與指導，以及允許這種監測的條件。例如，在惡劣的天氣條件下需要更多的主管。

應該定義遠程主管的工作限制。專家必須澄清主管是否應該遵守現行的工作時間規定。例如，空中交通管制員的工作時間有限。

走向自動駕駛的道路遠非如此。仍然有許多挑戰需要解決。