數字信息技術使幾乎任何人、任何時間、任何地點都能輕易獲得信息。這對我們社會的各個方面，從工業生產到分配、到商品和服務的消費，都產生了深遠的影響。就像之前的技術革命一樣，數字信息技術的影響如此廣泛，我們不再只是簡單地利用它——做我們以前做過的事情——而是通過改變我們的行為方式來適應它。

今天，數字信息技術已經重新定義了人們如何與他人進行社交互動，甚至如何找到伴侶。消費者、生產者和供應商、實業家和勞動者、服務提供者和客戶、朋友和合作伙伴之間重新定義的關系，已經在社會上造成一場劇變，正在改變后工業時代對道德理性的定義。

我們正站在下一波科技革命的風口浪尖：人工智能。20世紀晚期的數字革命將信息帶到了我們的指尖，讓我們能夠快速做出決定，而機構做出決定，從根本上說，取決于我們。人工智能正在通過自動化決策過程來改變這一狀況，它有望帶來更好的定性結果和更高的效率。人工智能游戲系統在擊敗國際象棋世界冠軍卡斯帕羅夫（Gary Kasparov）和圍棋世界冠軍柯潔（Ke Jie）方面取得的成功，突顯出人工智能在計算當前決策對潛在未來棋步的影響方面，在質量方面優于人類專家。

然而，在這個決策過程中，人工智能也帶走了人類行為的透明性、可解釋性、可預測性、可教性和可審核性，取而代之的是不透明性。這一舉動的邏輯不僅不為參與者所知，也不為程序的創造者所知。隨著人工智能為我們做出決策，決策的透明度和可預測性可能會成為過去。

想象一下這樣的情景：你的孩子回家找你，要求你給她零花錢，讓她和朋友一起去看電影。你允許了。一周后，你的另一個孩子帶著同樣的要求來找你，但這次，你拒絕了。這將立即引起不公平和偏袒的問題。為了避免受到偏袒的指責，你要向孩子解釋，她必須完成家庭作業，才有資格獲得零花錢。

沒有任何解釋，家里一定會有緊張的氣氛。現在想象一下用一個人工智能系統取代你的角色，這個系統已經收集了成千上萬個處于類似情況的家庭的數據。通過研究其他家庭的零花錢決定的后果，得出結論，一個兄弟姐妹應該得到零用錢，而另一個兄弟姐妹不應該。

但人工智能系統無法真正解釋其中的原因，只能說它衡量了你孩子的頭發顏色、身高、體重以及其他所有它能獲得的屬性，以便做出對其他家庭似乎最有效的決定。那又怎么會有效呢？

在法庭上，過去的判決約束法官遵循先例，即使情況不完全相同，但大致相似。一致性在司法、政府、關系和道德規范中都很重要。AI沒有遵守先例的法律要求。人類往往只有有限的直接或間接經驗，而機器可能可以訪問大量數據。

人類無法在一個長期的時間尺度內篩選他們的經歷，而機器可以很容易地做到這一點。人類會排除那些被認為對決策無關緊要的因素，而機器不會排除任何因素。這可能導致不尊重先例的決定，其規模之大是人類可以理解的。隨著企業和社會迅速轉向人工智能，人工智能實際上可能比人類在更長的時間范圍內做出更好的決策，而人類在更短的時間范圍內就會感到困惑和沮喪，并侵蝕一個正常運轉的社會的唯一貨幣，信任。

要理解基于人工智能的決策可能有多人工，研究人類如何做出決策是很重要的。人類的決策可能由一組明確的規則，或者僅僅基于結果論的關聯，或者由組合來指導。人類對于與決策相關的信息也是有選擇性的。由于缺乏選擇性，機器在做決定時可能會考慮人類認為不恰當的因素。

有無數這樣的例子，從微軟（Microsoft）在其聊天機器人Tay開始在Twitter上發表煽動性反猶太言論后關閉它，到波士頓大學（Boston University）的一項研究，該研究發現“老板”（boss）、“建筑師”（architect）和“金融家”（financier）等詞與男性、“護士”（nurse）和“接待員”（接待員）等詞與女性之間存在性別關聯。這可能是數據造成的，但它與我們的顯式值形成了對比。如果數據驅動的過程依賴于這些人工智能算法生成的輸出，它們將產生有偏見的決策，往往違背我們的道德價值觀。

鑒于人工智能在醫療診斷、金融服務和就業篩查等領域的應用規模之大，任何一個偶然事件的后果都是巨大的。隨著算法越來越依賴于提高可預測性的特性，控制這類決策的邏輯變得越來越不可思議。因此，我們失去了決策的全局性，拋棄了所有的原則來支持過去的觀察。在某些情況下，這可能是不道德的，在某些情況下是非法的，在某些情況下是短視的。“慣犯算法”公然藐視無罪推定、機會均等等原則。

一致性是道德和正直不可或缺的。我們的決定必須遵循一個高于統計準確性的標準；幾個世紀以來，相互信任、減少危害、公平和平等的共同美德已被證明是任何推理系統生存的基本基石。沒有內部邏輯的一致性，人工智能系統缺乏健壯性和可問責性——這是在社會中建立信任的兩個關鍵措施。通過在道德情感和邏輯推理之間制造裂痕，數據驅動決策的不可知性阻礙了批判性地參與決策過程的能力。

這是我們生活的新世界，復雜的決定被削減成反射性的選擇，并被觀察到的結果所強化；把復雜的東西簡化成簡單的東西，把道德簡化成實用的東西。今天，我們的道德感為我們的決策提供了一個框架。也許不久之后，我們的決定就會讓人們對我們的道德產生懷疑。