由北卡羅來納州達勒姆市杜克大學的程序設計團隊設計的照片編輯工具，不僅可以為數字演示文稿提供更清晰，更清晰的圖像，而且還可以為老式視頻游戲迷帶來數小時的樂趣，他們現在可以為低矮的視頻生成清晰的面孔。填充早期產品的像素字符。但是該工具也出乎意料地浮出水面，涉及在大規模機器學習項目中使用數據集的偏見。

DUL研究人員創建了PULSE（通過潛伏空間探索進行照片上采樣），以根據低像素源數據創建更逼真的圖像。在今年早些時候分發的研究論文中，該團隊解釋了他們的方法與早期從8位圖像生成逼真的圖像的努力有何不同。

報告稱：“ PULSE不是從低分辨率圖像開始，而是慢慢添加細節，而是遍歷高分辨率自然圖像流形，搜索縮小到原始低分辨率圖像的圖像。”

這意味著他們用于構建逼真的面部表情的算法是從大量真實人物的圖像數據集中提取的。

PULSE系統可以在幾秒鐘內將16像素x 16像素的圖像轉換為1024像素乘1024像素的圖像。

連同他們的發現，團隊將PULSE上傳到GitHub并鼓勵進行實驗。

俄羅斯開發人員Denis Malimonov上周開發并發行了自己的應用，名為Face Depixelizer。隨著用戶上傳他們自己的幽默作品，這些作品通常來自經典游戲，例如Minecraft的Steve和Creeper，Super Mario的Mario以及Zelda的Legend的Link，因此在Twitter上的反應迅速。

杜克大學團隊認識到PULSE的娛樂價值，但指出在一個探索和研究程度更高的時代，PULSE應該在實踐上和經濟上證明是有用的。

報告說：“在這項工作中，我們旨在將模糊的低分辨率圖像轉換為清晰，逼真的高分辨率圖像。” “在許多領域……由于成本，硬件限制或內存限制等問題，很難獲得清晰的高分辨率圖像。”

他們列舉了醫學，天文學，顯微鏡和衛星圖像作為可以從他們的努力中受益的領域。

但是上周末，Twitter用戶開始報告他們的實驗趨勢令人不安。一些報告說，當他們使用有色人種的圖像時，重新生成的圖像將它們轉換為白色圖形。前總統巴拉克·奧巴馬（Barack Obama），已故世界冠軍拳擊手穆罕默德·阿里（Muhammad Ali），女演員露西·劉（Lucy Liu）和紐約州眾議員亞歷山大·奧卡西奧·科爾特斯（Alexandria-Ocasio Cortez）都通過這些應用程序被渲染為白人。

令人遺憾的結果應該不是完全意外的。隨著機器學習和人工智能在研究項目中的越來越多的應用，對海量數據集的依賴也越來越多。但是近年來的報告警告說，一些最常用的數據集包含的信息不能代表整個社會。一份報告指出，一個常用的數據庫包含的內容是男性占74%，白人占83%，這凸顯了人們對性別偏見和種族代表不足的可能性的擔憂。

在2018年，一種執法工具吹噓膚色淺的男人的面部識別錯誤率低于1%，但是在確定膚色較深的受試者的性別時，卻犯了35%的驚人錯誤。

微軟，亞馬遜和IBM最近宣布，他們將停止或限制向警察部門銷售面部識別工具，部分原因是他們對依賴人工智能的種族，性別，種族和年齡偏見的擔憂。

在錄像帶致命警察槍擊事件和黑人嫌疑人窒息事件發生后的最近幾周發生動蕩之后，這種數據集偏差尤其令人擔憂。

正如麻省理工學院研究生，2018年大學AI偏見報告的合著者Irene Chen所說：“算法僅與使用的數據一樣好，我們的研究表明，更好的數據通常可以帶來更大的變化”。她補充說，不是需要更多數據來糾正偏差，而是需要提供更具代表性的數據。