直播很受歡迎，直播也很受爭議，除了脫衣服、造謠、造假炒作外，直播平臺涌入了更可怕的暴力、謀殺、自殺內容。

2017 年，Facebook度過了一個血腥的復活節，一個男子在上面直播開槍殺人。

發生了惡劣的直播殺人事件后，各大在線媒體平臺都在開發“暴力標記算法”，Facebook 近日宣布要研發 AI 芯片來發現、標記、過濾此類直播視頻。

社交媒體公司自己造芯片

升級軟件已經不能滿足 Facebook?的需求，更強大的算法需要定制化 AI 芯片來支撐。雖然有大量的公司（英特爾，三星，Nvidia 等）在開發節能芯片，但 Facebook?決定自己來。Facebook 的首席人工智能科學家 Yann LeCun 表示：

越來越多的智能手機配備了功能強大的芯片，可讓用戶直接在其設備上利用語音識別，增強和虛擬現實以及圖像和視頻處理功能。這種趨勢將會增長，促使更多以軟件為根本的公司考慮硬件。

Facebook 最近宣布可以通過主動上傳裸照，生成數字指紋（digital footprint），AI?通過識別數字指紋禁止其他人上傳，以這個系統打擊“色情報復”。

與裸露照片相比，暴力視頻的識別則困難許多。AI 難以辨別內容是在傳播暴力、有自殺傾向，還是僅僅在開玩笑。除了搜索信息，AI 需要具備結合語境分析內容的能力。

（圖片來源：Fortune）

目前的監控不及時，而且很耗能

Facebook 目前的監控系統由 AI 系統和人類版主組成，在運用傳統的算法下，這種監控方式需要耗費大量的能源和人力成本。

視頻網站的審核力度和審核時間難以取得平衡。在目前的條件下，加大審核力度必然會減慢審核的速度，審核時間過長會導致用戶流失。假設一個博主上傳視頻審核需要三天，會惹來粉絲的強烈控訴，嚴重影響博主的收入。

要打擊暴力犯罪，內容審核速度更至關重要。在“復活節屠殺”事件中，兇手在直播殺人前曾經發布“預告視頻”，但該視頻并沒有引起重視，他的暴行沒能被及時發現并制止。

“殺人視頻”在 Facebook 上逗留超過兩小時，足夠被下載并上傳到其他平臺，擴大犯罪的傳播范圍。

（黃子華給想自殺者的忠告，圖片來源：嗶哩嗶哩）

2018 年 5 月 20 日，一個女生在微博預告全家自殺，引起網友關注，最終被搶救回來。這不是微博出現的第一封遺書，網絡時代生長起來的這一代人，遺書也喜歡“留”在網絡上。

雖然這種對待生命的方式不可取，其中也不乏“自殺惡作劇”和兒戲的遺書，但這種“自殺預告”也給自殺者帶來被搶救的機會，重要的是及時被發現。

擁有更強“暴力標記算法”的 AI 版主是未來的趨勢，不僅能及時報告問題，阻止暴力和自殺行為，還能降低能源和人力成本。

（圖片來源：Innovation Village）

2016 年底我國的《互聯網直播服務管理規定》出臺，平臺配合相關部門進行直播內容整治，但從目前的情況，色情、暴力、謠言、詐騙等內容還沒徹底從直播平臺消失。

2017 年 10 月 26 日，電競選手“死亡宣告”在游戲直播中“疑似”毆打女友，被警方以涉嫌暴力傷害帶回調查，后英雄聯盟官方決定對他禁賽 20 個月處分，且多個直播平臺封禁他的賬號。

網絡上看到暴力行為不會比現實生活多，但暴力通過直播傳播，會帶來更廣的社會影響。在直播中施暴，死亡宣告”宣告”了自己職業生涯的死亡。

（死亡宣告直播畫面，圖片來源：TechWeb）

最近又發生了直播籌款被網友質疑的“眼癌女童小鳳雅事件”，直播平臺打賞牽扯進了“籌款真實性”的社會輿論中。

土味直播有點可愛，但暴力直播很可憎，“兒戲的”自殺直播消耗網友的善心，直播內容監管還有很多功課要做，無論是制度還是監管技術。