人工智能（AI）治理：區(qū)塊鏈如何建立問(wèn)責(zé)和信任

麥肯錫公司最近發(fā)表的一篇文章或許最好總結(jié)了當(dāng)前關(guān)于企業(yè)環(huán)境、社會(huì)和治理（ESG）倡議的時(shí)代精神：“盡管已經(jīng)提出了關(guān)于ESG的有效問(wèn)題，但公司理解和解決其外部性的需要可能對(duì)維持其社會(huì)許可至關(guān)重要。”人工智能（AI）技術(shù)是外部性的強(qiáng)大力量，越來(lái)越多地影響著社會(huì)許可的授予或者不授予方式。然而，在公眾對(duì)人工智能普遍不信任的情況下，將區(qū)塊鏈技術(shù)用于人工智能治理可以極大地幫助公司建立公眾對(duì)其負(fù)責(zé)任地使用這一技術(shù)的信任，進(jìn)而建立社會(huì)許可。

一．使用區(qū)塊鏈進(jìn)行人工智能治理

簡(jiǎn)而言之，使用區(qū)塊鏈技術(shù)不停記錄所有關(guān)于人工智能（AI）或機(jī)器學(xué)習(xí)（ML）模型的決定，是朝著透明邁出的重要一步，透明是信任的關(guān)鍵要素。使用這種區(qū)塊鏈也允許可審計(jì)性，進(jìn)一步幫助建立信任。這些原則是圍繞企業(yè)人工智能和模型開發(fā)標(biāo)準(zhǔn)構(gòu)建的AI治理模型的核心，并由區(qū)塊鏈技術(shù)強(qiáng)制執(zhí)行。

開發(fā)一個(gè)人工智能決策模型是一個(gè)復(fù)雜的過(guò)程，包括無(wú)數(shù)的增量決策。這些包括模型的變量、模型設(shè)計(jì)、算法、使用的訓(xùn)練和測(cè)試數(shù)據(jù)、特征的選擇、模型的原始潛在特征、倫理測(cè)試和穩(wěn)定性測(cè)試。它還包括構(gòu)建變量集不同部分、參與模型創(chuàng)建和執(zhí)行模型測(cè)試的科學(xué)家。由于區(qū)塊鏈技術(shù)的支持，這些決策的總和與全部記錄提供了根據(jù)公司定義的標(biāo)準(zhǔn)在內(nèi)部有效治理模型、確定責(zé)任和滿足即將到來(lái)的監(jiān)管要求所需的可見性。

二、問(wèn)責(zé)制規(guī)范化的步驟

在區(qū)塊鏈成為流行術(shù)語(yǔ)之前，作者開始在其數(shù)據(jù)科學(xué)組織中實(shí)施分析模型管理方法。2010年建立了一個(gè)以分析跟蹤文檔（ATD）為中心的開發(fā)過(guò)程。這種方法詳細(xì)描述了模型設(shè)計(jì)、變量集、指定科學(xué)家、培訓(xùn)和測(cè)試數(shù)據(jù)、成功標(biāo)準(zhǔn)和道德/穩(wěn)健性測(cè)試。ATD將整個(gè)開發(fā)過(guò)程分解成三個(gè)或更多的里程碑，在實(shí)現(xiàn)的每個(gè)階段都有正式的評(píng)審和批準(zhǔn)。

自此以后，區(qū)塊鏈成為ATD的關(guān)鍵；它是一種機(jī)制，通過(guò)將一系列實(shí)體、工作任務(wù)和需求與每個(gè)單獨(dú)的模型相關(guān)聯(lián)，包括測(cè)試和驗(yàn)證檢查，來(lái)整理分析和ML模型開發(fā)。區(qū)塊鏈技術(shù)本質(zhì)上記錄了數(shù)據(jù)科學(xué)家、經(jīng)理和作者之間的不變合同實(shí)例，該合同描述了：

（1）模型是什么？

（2）模型的目標(biāo)；

（3）我們?nèi)绾螛?gòu)建該模型，包括規(guī)定的ML算法；

（4）該模型必須改進(jìn)的領(lǐng)域，例如，在交易層面將無(wú)卡（CNP）信用卡欺詐改進(jìn)30%；

（5）科學(xué)家解決問(wèn)題和不解決問(wèn)題的自由度；

（6）重復(fù)使用可信和有效的變量和模型代碼片段；

（7）培訓(xùn)和測(cè)試數(shù)據(jù)要求；

（8）AI道德程序和測(cè)試

（9）魯棒性和穩(wěn)定性測(cè)試

（10）特定模型測(cè)試和模型驗(yàn)證清單

（11）專門指定的分析科學(xué)家構(gòu)建變量、模型、培訓(xùn)他們以及驗(yàn)證代碼、確認(rèn)結(jié)果、測(cè)試模型變量和模型輸出的人員

（12）該模型和特定客戶群的特定成功標(biāo)準(zhǔn)

（13）具體的分析比較、分配的任務(wù)和科學(xué)家，以及滿足要求的正式的競(jìng)賽評(píng)審/批準(zhǔn)。

這樣，ATD通知了一組非常具體的需求，這些需求與公司模型開發(fā)AI標(biāo)準(zhǔn)相關(guān)聯(lián)。一旦我們都協(xié)商好了我們的角色、責(zé)任、時(shí)間表和構(gòu)建的需求，團(tuán)隊(duì)中的每個(gè)人都將ATD作為一個(gè)合同來(lái)簽署。它成為我們定義整個(gè)敏捷型模型開發(fā)過(guò)程的文檔。

將個(gè)人分配到每一個(gè)需求中，然后團(tuán)隊(duì)評(píng)估一組現(xiàn)有的附屬資料，這些資料通常是以前驗(yàn)證過(guò)的可變代碼和模型的片段。一些分析變量在過(guò)去已經(jīng)被批準(zhǔn)，其他的變量將被調(diào)整，還有一些將是新的變量。然后，區(qū)塊鏈每次記錄在該模型中使用該變量的時(shí)候——例如，從代碼庫(kù)中采用的任何代碼，新編寫的代碼，以及所做的更改——誰(shuí)做的，完成了哪些測(cè)試，批準(zhǔn)它的建模經(jīng)理，以及作者的簽名。

三．顆粒度跟蹤

重要的是區(qū)塊鏈提供了決策的線索。它顯示了一個(gè)變量是否可接受，它是否在模型中引入了偏差，或者變量是否得到了正確的利用。區(qū)塊鏈不僅列出了一份積極成果的清單。它同時(shí)記錄了構(gòu)建這些模型的整個(gè)過(guò)程，包括它們的錯(cuò)誤、修正和改進(jìn)。

這種方法提供了很高的可信度，即沒(méi)有人向模型中添加表現(xiàn)不佳的變量或引入某種形式的偏差。它確保沒(méi)有人在他們的數(shù)據(jù)規(guī)范中使用不正確的字段，或者在沒(méi)有許可和驗(yàn)證的情況下更改經(jīng)過(guò)驗(yàn)證的變量。如果沒(méi)有ATD和現(xiàn)在的區(qū)塊鏈提供的嚴(yán)格審查過(guò)程來(lái)保持其可審計(jì)性，數(shù)據(jù)科學(xué)組織可能會(huì)無(wú)意中引入一個(gè)有錯(cuò)誤的模型，特別是當(dāng)這些模型和相關(guān)算法變得越來(lái)越復(fù)雜時(shí)。

此外，區(qū)塊鏈系統(tǒng)確保道德和穩(wěn)定性測(cè)試的公司標(biāo)準(zhǔn)得到執(zhí)行、審查和批準(zhǔn)。該過(guò)程收集并整理了模型在生產(chǎn)時(shí)必須監(jiān)控的關(guān)系，以滿足負(fù)責(zé)任的人工智能標(biāo)準(zhǔn)。

四．透明的開發(fā)過(guò)程會(huì)減少偏見

在區(qū)塊鏈上貫穿公司模型開發(fā)標(biāo)準(zhǔn)，給予分析模型它自己的實(shí)體、生命、結(jié)構(gòu)和描述。模型開發(fā)成為一個(gè)嚴(yán)格組織的過(guò)程；可以生成詳細(xì)的文檔，以確保所有元素都經(jīng)過(guò)了適當(dāng)?shù)膶彶椋⑶夷Ｐ偷臎Q策沒(méi)有偏見。這些步驟將在模型生產(chǎn)過(guò)程中重新審視，為人工智能模型治理的操作階段提供一個(gè)基本的人工智能監(jiān)控框架。當(dāng)模型最終被使用時(shí)，這些資產(chǎn)告知可觀察性和監(jiān)控需求，這是維持對(duì)其決策的信任所必需的。

總之，區(qū)塊鏈允許復(fù)雜的人工智能模型變得透明和可審計(jì)。這些是讓人工智能技術(shù)變得負(fù)責(zé)和可信的關(guān)鍵因素——這是建立人工智能治理系統(tǒng)的重要一步，該系統(tǒng)可以更新而不是侵蝕公司的社會(huì)許可。

審核編輯 ：李倩