到目前為止,幾乎所有能夠制造或管理人工智能產品(包括生物識別技術)的組織都知道創建道德原則以保護強大技術的重要性。
當然,認識到對原則的需求并加以發展是兩回事。采納道德原則并實際執行這些原則也是如此。
加州大學伯克利分校的研究人員撰寫了一份報告,重點介紹了在實施原則方面的值得注意的工作,并將其用作其他尋求實施的組織的指南。
該報告是由大學的長期網絡安全中心編寫的。它在三個實施案例研究中尋找教訓,這些案例研究涉及Microsoft公司的AI,工程與研究中的道德與影響(AETHER)委員會,非營利性研究實驗室OpenAI Inc.和一個智囊團,經濟合作組織與發展組織(OECD)。
報告還概述了其他35項正在進行的實施原則的努力。審查的項目包括設計工具,框架,計劃和標準,所有這些工具均旨在開發“可信賴”的AI。
在第一個案例研究中,微軟高管明確成立了AETHER委員會,以使AI工作與公司的核心價值保持一致。實際上,這是公司范圍內的七個工作組,旨在尋找針對AI及其客戶開發和使用AI所產生的相應問題的答案。
報告稱,提出的問題集中在敏感和戰術性話題的混合上,包括“偏見與公平,可靠性與安全以及對人權和其他危害的潛在威脅”。面部識別的懷疑論者列舉了所有這些威脅,微軟去年才實施了這些原則。
OpenAI案例研究的重點是去年9個月以來分階段發布的GPT-2(一種無監督的AI語言模型)。通常,一個模型會完全發布,但是該機構選擇了“負責任公開的實驗”。
OpenAI領導者擔心,如果他們不刻意,他們的模型可能會被部署來綜合產生誤導性新聞,濫用內容或網絡釣魚攻擊。因此,他們發布了越來越大的模型(以參數衡量)。
-
生物識別
+關注
關注
3文章
1220瀏覽量
54049 -
人工智能
+關注
關注
1817文章
50094瀏覽量
265275
發布評論請先 登錄
未來工業AI發展的三個必然階段
【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI芯片到AGI芯片
【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI的科學應用
【「AI芯片:科技探索與AGI愿景」閱讀體驗】+化學或生物方法實現AI
【「AI芯片:科技探索與AGI愿景」閱讀體驗】+AI的未來:提升算力還是智力
【「AI芯片:科技探索與AGI愿景」閱讀體驗】+可期之變:從AI硬件到AI濕件
【「AI芯片:科技探索與AGI愿景」閱讀體驗】+內容總覽
AI 芯片浪潮下,職場晉升新契機?
關于NanoEdge AI用于n-Class的問題求解
【書籍評測活動NO.64】AI芯片,從過去走向未來:《AI芯片:科技探索與AGI愿景》
任正非說 AI已經確定是第四次工業革命 那么如何從容地加入進來呢?
關于鴻蒙App上架中“AI文本生成模塊的資質證明文件”的情況說明
泛林集團連續第三年被Ethisphere評為“全球最具商業道德企業”之一
3個案例研究證明AI可以進行道德發展
評論