人工智能的異軍突起將這樣的案件帶入公共視野，也為當前的***法規、倫理規范和政策體系帶來不小的考驗：

“人工智能的載體究竟是不是***主體?”

這樣的問題在斯坦福大學新開設的一門***和計算機科學交叉的課程上激起了熱烈討論。如果不是***主體，那么當人工智能載體觸犯他人利益、造成社會損失時，究竟應該由研發者、運營者還是使用者承擔責任呢?如果是***主體，那么又該如何為這些“人工智能”定罪量刑呢?

今天小探就帶你一起看看，在人工智能沖擊傳統***、公共政策的當下，斯坦福大學的教育專家和***人士都在做些什么努力。

AI制定政策?***早已啟動

不要以為人工智能只是科技公司的專利。事實上，近年來美國***已經開始考慮使用機器學習和人工智能相關技術幫助公共政策的制定。

美國環保署(EPA)管理殺蟲劑的例子就很好體現了算法分析和***相互作用的微妙形式。

過去，美國環保署對殺蟲劑的毒性檢測很大程度上取決于動物對化學藥物的反應。但面對超過80000種待檢測化學藥物的壓力，這種方法被普遍評價為緩慢、昂貴、又不人道。

后來，美國環保署開始大量收集數據，并引進不同計算方法來規范化學毒性檢查。它建立了一個聚合計算毒理學資源庫(Aggregated Computational Toxicology Resource)，根據各種公共資源整合的關系型數據庫，用以支持數據挖掘和建模?！谒惴ㄅc神經網絡對數據的分析中去尋找決策新思路。

當人工智能介入***決策，美國的殘疾索賠程序也開始發生變化。

2013年以來，為了減少工作人員審理紙質文件的負擔，并提高案件決策一致性，美國退伍軍人事務部推出了一套計算機案件管理系統，用于處理退伍軍人的殘疾索賠。

據報道，該系統可以根據索賠人(自我報告)的調查問卷，從0-100%自動評估不同退伍軍人的殘疾程度。目前這套軟件使用的是IBM Watson 的人工智能程序，從退伍軍人的電子醫療記錄中進行數據篩選。

科技巨頭，政府數字化改革的合伙人?

今年2月，特朗普簽署了一項推廣人工智能的新行政命令，再次將人工智能升級為國之重策。然而目前除了軍事部門，大部分聯邦機構的技術更新依舊緩緩慢，高技術人才也相對緊缺。哪里高級人才多?當然要屬硅谷的科技巨頭們了。

那么，處于技術前沿的科技公司又在***的技術升級中擔任什么角色呢?

像IBM等科技巨頭跟政府已在人工智能領域有多個合作項目：

美國海軍陸戰隊正在使用Watson的人工智能設備來診斷軍用車輛的性能，并將自然語言處理和數據科學——例如IBM的SPSS統計軟件和Watson Explorer——應用于人員的組織和部署。在不久前，這些大部分計劃和日程安排都是通過電子表格完成的。

除了技術上的支持，科技公司也會在核心科技的政策、監管、應用前景方面與政府交換意見。

今年2月，谷歌便向美國政府提出了一份長達34頁的《關于人工智能管理的意見》(Perspective on Issues in AI Governance)，呼吁政府和社會、工業界就人工智能的可解釋性標準、公平性評估、安全考慮和責任框架等方面進行合作。

谷歌建議，要像歐洲的電子產品在銷售前需經過CE認證一樣，美國政府也應為人工智能創建類似的安全指標。“例如，針對智能鎖當中的生物識別技術，就應在使用前測試它的準確度是否達標?！惫雀璧男屡d技術全球政策負責人Charina Chou表示。

盡管不少科技巨頭都與政府在技術方面的合作項目，但如果這些項目有涉及侵犯隱私、違背倫理的風險呢?

還記得谷歌和美國國防部合作的Maven項目嗎?這個去年3月被爆出后鬧得沸沸揚揚的項目，是谷歌把人工智能技術用于分析無人機鏡頭當中，幫助無人機更好地從移動或靜止圖像中自動追蹤感興趣對象，從而提高打擊精準度。這些無人機可能會參與到美國對阿富汗、巴勒斯坦、也門等國的空襲當中。

很快，超過4000名谷歌員工簽署了一份反對“Maven”項目的***，他們在《***》刊登了整版廣告，并導致了數十名員工辭職。最終，去年6月，谷歌松口了。表示將在今年3月到期后，不再與國防部續約合作。

450多名亞馬遜員工也在近日公開致信貝索斯，希望公司停止與美國國防部和執法系統就面部識別軟件 Rekognition 合作的項目。他們擔憂的地方在于，***在沒有公眾監督、社會問責和亞馬遜限制的情況下使用這些技術，很可能造成對***的侵犯。

然而，貝索斯表示，公司將持續和國防部合作，“如果大科技公司都拒絕了國防部，那么這個國家會陷入麻煩……這是我們該做的事情，就算它不受歡迎。”

人工智能與行政結合的優勢與擔憂

到底人工智能對政府績效的改善有哪些優點?主要有三點難以抗拒的優勢。

第一是效率。以較低成本完成大量重復性事件。另一方面，機器能在排除個人因素干擾的前提下進行數據分析和結果預測。決策者可能表現出種族偏見，可能過分地或不足地衡量某一信息的重要性，或者可能對所處情況的預設過于天真。對人為意志的排除使機器做出的決策有天然的說服力。

最重要的是，通過與大數據的連接，計算機程序能幫政府官員分析信息，并對潛在的戰略性行為做出反應。

然而，提升行政效率帶來的同時，使用機器辦公的規范性問題也被提上日程。

近期，加州最高法院大法官Mariano-Florentino Cuéllar就在其著作《人工智能與行政國家》(Artificial Intelligence and the Administrative State)中，提出了四點對決策過程中使用人工智能代理的擔憂。

首先，政府是否該依賴計算機程序做出某項決策?大法官認為，這取決于決策目標的社會爭議性。當前，立法者常針對是否該做出某項行政決定(如實施經濟制裁)以及該決定會在不同層面導致的后果進行大量的辯論，人工智能將如何統籌政治博弈中的各方利益?這將是個不小的挑戰。

第二點擔憂和爭議來自人工智能所謂的“機械理性”。由于在由算法主導的行政決策占越來越重要的位置，但機器減少人為因素干擾的同時，是否應該反思，那些所謂的“偏見”和“情感因素”是否都沒有價值?一些可能被機器排除的“偏見”例如對***的同情，或許也同樣值得關注。

第三，網絡安全風險及其他不利影響。當行政越來越依賴數據收集和計算機程序，這可能帶來更高的效率，也同時意味著受網絡安全威脅的影響更大。

最后，如何向公眾解釋決策過程將遇到困難。試想一下，***治理的內涵是通過對話和交流，每一種聲音都有被決策者或公眾理解、接受或拒絕的機會。除非人工智能的決策機制能依賴相對簡單透明的結構，否則向公眾提供決策如何產生的理由時，決策機構將會遇到相當的困難。

斯坦福***課上的頭腦風暴

面對這些擔憂，身處硅谷中心的斯坦福大學已開始促成從學術研究到業界層面的合作：從2019年起，斯坦福大學政策研究中心新開設一門***和計算機科學交叉的課程“算法管理：在規制型國家中的人工智能”。(Administering by Algorithm: Artificial Intelligence in the Regulatory State)

這門課程由斯坦福法學院教授David Freeman Engstrom、Daniel E. Ho，和加州最高法院大法官Mariano-Florentino Cuéllar共同教授，并邀請了25位律師、計算機科學家和算法工程師來和大家共同探討政府機構的技術研發和應用。

從左至右：斯坦福法學院教授Daniel E. Ho，David Freeman Engstrom和加州最高法院大法官Mariano-Florentino Cuéllar

“我們現在面臨著專業技術和認知上的不匹配。一方面在***判決中我們需要***機構能解釋做出這樣決策的原因，另一方面，人工智能和機器學習的工作機制尚未完全透明，”斯坦福法學院教授David Freeman Engstrom說道。

課堂的學生來自計算機科學、***、政治、哲學等多個專業背景，需要通過團隊合作，完成三部分任務。

首先，團隊對100個最重要的聯邦機構進行調查。當發現有算法參與決策的例子時，學生們開始測評這項技術具體歸屬哪一類：是屬于人工智能，還是機器學習，還是一些其他的基礎技術?

第二步，學生集體評估近期或中期政府機構中最可能部署人工智能的環節。

最后，轉向規范性問題探討：思考使用人工智能執行監管任務帶來的***、政策分析和哲學層面的挑戰。例如，如何解決諸多程序性權利面臨被機器行政架空的威脅等。

課程結束后，學生將完成一份報告，探討行政機構在不同層面該如何應用人工智能技術。該報告將提交到無黨派獨立機構美國行政會議(Administrative Conference of the United States)，并有望影響未來行政機構的政策。