騰訊創業| ID：qqchuangye

YouTube 作為大規模用 AI 代替人工的先行者，勢必會踩坑，但同時也為其他公司甚至全社會，指明了人與 AI 協同關系中更加清晰的發展方向。

本文來源 “HyperAI超神經”（ID：HyperAI），騰訊創業經授權后轉載。

作者/ 超神經

YouTube 在今年初，將內容人工審核團隊大量裁撤，全部替換成為 AI 進行內容審核。

所以，今年 4-6 月整個第二季度里，YouTube 線上的所有視頻，都是由 AI 進行官方的內容審核。這也是 YouTube 有史以來第一次整一季度，沒有人工審核員參與內容初審。

這一大步跨越，帶來了不小的后果，YouTube 在近期叫停這項舉措，并且大批返聘在年初解雇的人工審核團隊。

1

AI 替換人工：下架視頻數創紀錄

AI 審核被叫停的重要原因之一，就是 AI 審核的規則相較于人工，更為嚴格，甚至會導致誤傷。

根據 Google 在定期的透明度報告中提到：在 2020 年 AI 接管內容審核的 4-6 月中，共有 1100 萬個視頻被 AI 標記違規并下架，這些視頻主要來自于美國、印度和巴西。

但是，在今年的第一季度里，被鑒定違規并下架的視頻，僅僅只有 660 萬。而 從人工換成 AI 之后，被下架的視頻數幾乎翻了一番。

因為 AI 審核遭下架的視頻，占全部下架視頻的 95%

（數據來源：Google 官方透明度報告）

在被 AI 下架的 1100 萬個視頻中，多數為色情、虛假、涉恐犯罪類型，但是也有不少是誤傷。

其中，就有32 萬個被 AI 標記下架的視頻提出了申訴，最后近半數都通過二次審核，并重新上線。而在過去，進行申訴的視頻，只有25%左右可能重新上線。

YouTube 的審核 AI，以一己之力，讓 YouTube 的播主們瑟瑟發抖，花更多時間自查內容，一時間怨聲載道讓 YouTube 頭疼不已；大量的申訴，還給 YouTube 團隊，增加了不少重新審核的工作量。

2

人工再上位：時機尚未成熟，AI 仍需努力

在年初 YouTube 裁減人工審核團隊前，全職或外包的審核崗位多達 10000 個。

這些人工審核員分布在 Google 的全球辦公室，或是外包供應商的各個辦公點。

01

萬人團隊：巨大運營成本

人工審核員的崗位要求并不低，比如要負責中東地區的內容審核崗位，需要掌握阿拉伯語和阿拉伯方言語系，并對中東地區上傳視頻進行審核，以便及時標記出涉及恐怖、暴力、煽動內容的視頻。

這樣的工作，每周需要審核500 小時以上的視頻，初級崗位的薪水可以達到18.5 美元/小時，年薪可達37000 美元左右。

再資深的內容審核崗位，需要掌握一些的法律知識，不僅能得到 Google 全職員工的待遇，還可以獲得近100000 美元的年薪。

風光的背后，Google 也同時在承擔著不小的成本，這也導致了在今年疫情之際 YouTube 對人工審核崗位的裁撤。

這次返聘 YouTube 也提及：疫情讓人工審核成本變高、難度加大。當初迫不得已，必須在人工干預不足和 AI 過度干預兩者之中，選擇了 AI。

02

人工審核：邊緣職業身心俱疲

內容審核不是一份簡單的工作，不僅每周有固定的工作指標，還要長時間面對兒童色情、暴力、恐怖類型的畫面，往往也會讓人身心俱疲。

《華盛頓郵報》、《財富雜志》等美國主流媒體均對內容審核員這一職業，做出過深度報道。接受采訪的內容審核員，無一例外都表達了這份職業，對自己的身心健康產生了強烈的負面影響。

媒體的輿論影響也敦促了科技公司對這類崗位進行了一系列的改善，比如限制每周觀看不適視頻的時間上限、定期的心理治療等措施。

3

人工還是 AI：不用著急下定論

人工審核的支出、對人心理的傷害、機器學習的技術進步，這些都推動了近年各平臺對自動化內容審核的研究和快速應用。

AI 雖然有一定的誤傷幾率，但是在對違規內容的審查中，的確展現了超過人工審核的高效。

YouTube 首席產品官 Neal Mohan 向英國《金融時報》回應人工審核重回崗位時，提到了一組數據「被 AI 標記刪除的 1100 萬個視頻中，超過 50% 的視頻，在沒有用戶播放前就被下架；超過 80% 的視頻，播放 10 次以內就被下架。」

YouTube 作為大規模用 AI 代替人工的先行者，勢必會踩坑，但同時也為其他公司甚至全社會，指明了人與 AI 協同關系中更加清晰的發展方向。

這樣的實驗雖然折騰，但著實有必要。這需要公司有吃螃蟹的精神、承擔輿論非議的勇氣和快速善后的決心。同樣開放透明的數據，也讓媒體和社會在接受未來的不確定性，有更多的共識和信心。

誰知道寫文章的我，是不是個 AI 呢？

END

原文標題：YouTube用AI代替人工審核員后，又決定返聘

文章出處：【微信公眾號：騰訊創業】歡迎添加關注！文章轉載請注明出處。

責任編輯：haq