2018年5月25日，“通用數據保護條例”（GDPR）在整個歐盟范圍內生效，要求對組織如何處理個人數據進行徹底改變。若違反GDPR條例的限制，相關組織必須支付高達2000萬歐元或其全球收入4％的罰款（以較高者為準），對威懾大多數違規行為具有很重要的意義。

由于不久前的劍橋分析丑聞鬧得人心惶惶，許多人希望GDPR將成為全球數據隱私新標準的典范。目前一些行業領導者正在呼吁Facebook將GDPR標準應用于其在非歐盟國家的業務。

但隱私只是圍關于數據驅動系統之爭的一個方面，實際上機器學習支持系統的日益普及引發了一系列相關問題，包括一個對社會產生很大影響且無法量化的問題：偏見。

在我們的生活中，許多重要決策都是由某種系統做出的，很多系統都存在明顯的偏見，無論這系統是人、機器還是二者的組合。機器學習在決策制度中的作用越來越大，這為我們提供了一個建立更少偏見的系統的機會，當然也面臨著加劇這一問題的風險。

我們通常認為計算機比人類更客觀、更公正。然而過去的幾年里，許多機器學習系統產生了帶有偏見或歧視的結果，人們對此也有著很多爭議。2016年時ProPublica曾報道，美國法院用來衡量被告再次犯罪可能性的機器學習算法，在對比背景相似的黑人與白人被告時會認為黑人的“風險更高”，即使系統沒有提供有關被告種族的任何數據也依然如此。

雷鋒網 (公眾號：雷鋒網) 不久前一篇名為《 關于模型可解釋性的深入思考：從哪里來，到哪里去？ 》的文章中，曾詳細介紹了學習出一個通用智能行動者的潛力和局限性，算法公平方面細微的以及可以被真正規范化的挑戰。 人們使用機器學習系統的目的是希望世界更公平、更有效率，而不是進一步放大人類的偏見。

這就是為什么GDPR允許用戶可以要求解釋機器任何“合法或類似重要”的決策，希望解釋的權利能夠使“算法歧視”的受害者訴諸人權，從而減輕這種偏見的影響。

但是生成這些類型的解釋——即創造可解釋的人工智能——是非常復雜的，而且即便系統對決策做出了解釋，也有一些評論家認為“無法分辨它們是真的反對偏見，還是僅僅是掩飾偏見。”

可解釋的人工智能以及GDPR是否會使技術更公平？如果不是，隨著機器學習的使用變得更加普遍，我們還有什么替代方法可以防范偏見？

機器學習中的偏見

關于偏見的討論常常被過分簡化為諸如“種族主義算法”這樣的詞語，但其實問題不在于算法本身，而是數據研究團隊提供給機器的數據。

例如，收集以往的數據是數據科學項目的一個共同起點，但“歷史數據往往偏向于我們不希望轉移到未來的方式，”加州大學伯克利分校電子工程與計算機科學學院助理教授、加州大學伯克利分校崛起實驗室的創始人之一Joey Gonzalez說。

假設某公司建立了一個篩選求職者的機器學習模型，并基于公司過去篩選類似職位求職者的數據集對模型進行培訓。如果該公司的HR曾多次拒絕過那些試圖重返職場的前全職父母，則培訓的結果很有可能會讓模型也將這些存在長期就業缺口的人排除在外。

如果更進一步，這將導致模型過多的拒絕女性求職者（全職父母多為女性）從而造成性別比例失調，即使性別并不是模型培訓數據集中的特征。因此在這一領域中，使用機器學習將進一步放大人類的偏見。

而這就是可解釋的人工智能的用武之地。如果操作人員能夠檢查“推理”算法，就有可能在算法產生嚴重偏差之前進行糾正。