Facebook 一直明確表示過要借助人工智能（AI）技術，以幫助該社交網絡平臺更好地完成審核工作。 當機器學習過濾器遇到被標記可能違反平臺政策、或被用戶投訴的內容時（包括但不限于垃圾郵件、仇恨言論、煽動暴力的帖子），系統就會及時響應并介入一些操作（比如刪帖或對賬戶加以限制），以便寶貴的人工可用于審核其它案例。

FB 舊版審核系統，結合主動式的機器學習過濾 + 用戶反潰

據悉，Facebook 在全球范圍內雇傭了大約 1.5 萬名審核人員，但過去因為沒有給予這些雇員足夠的支持而遭到批評。其主要工作是根據公司的平臺政策，對標記的帖子進行分類。

以往的流程，或多或少地都是根據時間先后進行排序。不過現在，Facebook 更希望借助更多機器學習算法的力量，根據內容的權重進行審核排序，同時設定了傳播度、敏感度、違規嚴重程度這三大參考原則。

FB 新版審核系統，借助更多的機器學習技能，幫助人工對待審核隊列進行排序。

盡管尚不清楚這些標準的具體權重有何區別，但 Facebook 表示，其目標是有限處理那些最具破壞性的內容。換言之，傳播后果越嚴重的帖子，就越會被優先處理。

比如涉及暴恐、剝削兒童或自我傷害等內容，將會受到實質性的人工審核。。同時垃圾信息等礙眼但后果不太嚴重的內容，將被 AI 判定為次優先級。

新引入的 WPIE 整體評估工具 + 各種內容排序用的機器學習算法。

Facebook 社區誠信團隊產品經理 Ryan Barnes 在新聞發布會上向記者表示，該公司正在使用更好的算法，以評估所有違規內容的人工審核優先級，比如上圖所示的 WPIE 完整性嵌入模型。

這意味著算法將共同判斷給定帖子中的各種元素，試圖找出圖像、標題等共同顯示的內容，此外新算法也有助于降低審核人員在處理某些惡劣違規內容是所遭受的心理創傷。
責任編輯：YYX