紐約大學(xué)AI Now研究所發(fā)布了第三份關(guān)于人工智能現(xiàn)狀的年度報(bào)告。 2018年AI Now報(bào)告重點(diǎn)關(guān)注行業(yè)AI丑聞和不平等加劇等主題，還評估了人工智能道德與有意義的問責(zé)制之間的差距，并研究了組織和監(jiān)管在人工智能中的作用。

關(guān)鍵要點(diǎn)

需要針對具體部門的AI治理和監(jiān)管方法

今年的報(bào)告通過擴(kuò)大特定部門機(jī)構(gòu)（如美國聯(lián)邦航空管理局和國家公路交通安全管理局）的權(quán)力來審計(jì)和監(jiān)控基于域的這些技術(shù)，從而反映出需要加強(qiáng)人工授精法規(guī)。

人工智能系統(tǒng)的發(fā)展正在興起，沒有足夠的治理，監(jiān)督或問責(zé)制度來確保這些系統(tǒng)遵守人工智能的道德規(guī)范。該報(bào)告指出，一般的AI標(biāo)準(zhǔn)和認(rèn)證模型如何不能滿足衛(wèi)生，教育，福利等不同部門的專業(yè)知識(shí)要求，這是加強(qiáng)監(jiān)管的關(guān)鍵要求。

需要對面部識(shí)別AI系統(tǒng)更嚴(yán)格的監(jiān)管

該報(bào)告強(qiáng)調(diào)了“影響識(shí)別”，一種聲稱能夠檢測個(gè)性，內(nèi)心感受，心理健康等的面部識(shí)別子類，取決于面部的圖像或視頻，需要特別注意，因?yàn)樗遣皇芄苤频摹?/p>

它闡述了這些主張如何沒有足夠的證據(jù)支持，并且以不道德和不負(fù)責(zé)任的方式被濫用。

似乎正在這方面取得進(jìn)展，就像昨天微軟建議科技公司需要發(fā)布文件來解釋技術(shù)的能力，局限性和后果，以防面部識(shí)別系統(tǒng)在公共場合使用。

人工智能治理需要新的方法

技術(shù)公司的內(nèi)部治理結(jié)構(gòu)無法有效實(shí)施人工智能系統(tǒng)的問責(zé)制。

“政府監(jiān)管是一個(gè)重要組成部分，但人工智能行業(yè)的領(lǐng)先企業(yè)也需要超越道德準(zhǔn)則的內(nèi)部問責(zé)制結(jié)構(gòu)”，報(bào)告中寫道。這包括董事會(huì)，外部道德咨詢委員會(huì)的普通員工代表，以及獨(dú)立監(jiān)督和透明度工作。

需要放棄商業(yè)秘密和其他法律索賠

在政府中使用AI和自動(dòng)決策系統(tǒng)的供應(yīng)商和開發(fā)商應(yīng)同意放棄任何限制公眾對其軟件進(jìn)行全面審計(jì)和理解的商業(yè)秘密或其他法律索賠。根據(jù)報(bào)告，公司保密法是一個(gè)障礙，因?yàn)樗鼈兒茈y分析偏見，競爭決策或糾正錯(cuò)誤。希望在公共部門使用這些技術(shù)的公司應(yīng)該要求供應(yīng)商在達(dá)成協(xié)議之前放棄這些索賠。

公司應(yīng)該保護(hù)工人免受道德問題的影響

員工組織和抵制技術(shù)以促進(jìn)問責(zé)制和道德決策已經(jīng)變得很普遍。這些技術(shù)公司有責(zé)任保護(hù)其員工組織，舉報(bào)和促進(jìn)其項(xiàng)目的道德選擇的能力。

在AI產(chǎn)品的廣告中需要更多的事實(shí)

圍繞人工智能的炒作導(dǎo)致營銷承諾與實(shí)際產(chǎn)品性能之間存在差距，從而給個(gè)人和商業(yè)客戶帶來風(fēng)險(xiǎn)。

根據(jù)報(bào)告，人工智能供應(yīng)商在做出承諾時(shí)應(yīng)該保持高標(biāo)準(zhǔn)，特別是當(dāng)沒有足夠的信息來說明這些承諾背后的后果和科學(xué)證據(jù)時(shí)。

需要解決工作場所內(nèi)的排斥和歧視問題

技術(shù)公司和人工智能領(lǐng)域?qū)Ｗ⒂凇肮艿滥Ｐ汀保荚谂嘤?xùn)和雇用更多員工。

但是，對于技術(shù)公司而言，評估工作場所內(nèi)基于性別，種族等的騷擾等更深層次的問題非常重要。 他們還應(yīng)該研究排他性文化與他們建立的產(chǎn)品之間的關(guān)系，從而建立不會(huì)使偏見和歧視長期存在的工具。

“全棧供應(yīng)鏈”的詳細(xì)說明

根據(jù)該報(bào)告，有必要更好地了解人工智能系統(tǒng)的各個(gè)部分以及它所依賴的完整供應(yīng)鏈，以便更好地追究責(zé)任。?

這個(gè)過程被稱為人工智能系統(tǒng)的“完整堆棧供應(yīng)鏈”，這是更負(fù)責(zé)任的審計(jì)形式所必需的。完整的堆棧供應(yīng)鏈考慮了AI系統(tǒng)的真實(shí)環(huán)境和勞動(dòng)力成本。這包括能源使用，內(nèi)容審核和培訓(xùn)數(shù)據(jù)創(chuàng)建的勞動(dòng)力使用，以及依賴工人維護(hù)AI系統(tǒng)。

更多資金和支持訴訟，以及人工智能問題的勞工組織

該報(bào)告指出，需要增加對法律補(bǔ)救和公民參與的支持。

這包括向代表因算法決策而獲得豁免社會(huì)服務(wù)的人的公共倡導(dǎo)者，民間社會(huì)組織和支持面臨失業(yè)和剝削危險(xiǎn)的群體的勞工組織者提供支持。

大學(xué)人工智能課程需要擴(kuò)展到計(jì)算機(jī)科學(xué)學(xué)科之外

報(bào)告指出，大學(xué)課程和教學(xué)大綱需要擴(kuò)大其學(xué)科定位。這意味著在大學(xué)AI課程中包含社會(huì)和人文學(xué)科。為了真正發(fā)揮社會(huì)影響的人工智能，有必要培養(yǎng)計(jì)算機(jī)科學(xué)系的教師和學(xué)生，研究社會(huì)世界。很多人已經(jīng)開始實(shí)現(xiàn)這一點(diǎn)，例如，Mizhell Baker董事長，Mozilla的聯(lián)合創(chuàng)始人談到了技術(shù)行業(yè)通過引入人文科技來擴(kuò)展技術(shù)技能的必要性。