作者：小巖

編輯：彩云

隨著科技的不斷發展，AI的應用范圍越來越廣。這種全新技術正在深刻改變著我們的生活，讓很多事情變得越來越簡單，甚至只要進行“傻瓜式操作”就能完成。

不過，任何事情都有雙面性。一方面，AI讓很多人的工作效率得到了大幅度提升，成為了自己的得力助手。

譬如寫文章寫報道這件事就是如此。相較于以往寫一篇深度報道，需要作者費盡心思地采寫，拍攝，如今想完成一篇文章，一張圖片只需要輸入幾個關鍵詞，在此之后就坐等AI快速生成即可。成本低夠低，效率夠高。

另一方面，它的存在也讓某些人找到了弄虛作假的捷徑。在這個信息碎片化的時代，很多人為了博眼球，蹭流量，會蓄意編造傳播聳人聽聞，此時的AI就成為了他們的“作案工具”。

“蹭熱點”,利用AI合成謠言……上海警方查處造謠傳謠人員530余人。

4月16日，上海市公安局在新聞發布會中明確表示，諸如“某著名女星命運多舛，含恨離世”“上海浦東海灘女童走失事件女孩父親系繼父”等一系列前段時間在網絡上盛傳的消息都是謠言。

自去年12月開始，公安部部署打擊整治網絡謠言專項行動以來，上海警方針對網上惡意炒作，造謠生事等網絡違法亂象開展全力集中整治。截至目前，累計查處網絡謠言384起，依法查處造謠傳謠人員530余人，清理網上謠言信息53000余條，依法關停違法違規賬號5000余個。

在偵辦案件的過程中，警方發現，利用AI技術炮制“爆點”的不法行為是最近興起的新型手段。

譬如上海青浦警方在打擊網絡謠言專項行動中，查處了一起虛構事實擾亂公共秩序的案件。該案中，男子為提升曝光度，博取流量，輸入關鍵字用AI杜撰關于青浦區發生命案的文章，并在網上下載網圖后移花接木，發布在網上吸引網友關注，之后被依法行政拘留。

同類型的網絡謠言案件還有很多。像“某著名女星命運多舛，含恨離世”“利用AI軟件合成故意縱火虛假視頻”“利用AI軟件編造社會知名人士重病離世”等，都屬于利用AI造謠的案件類型。

就連去年備受大家關注的“上海浦東海灘女童走失事件”也遭遇了AI造謠。一造謠團伙就以“標題黨”“震驚體”方式惡意編造炒作了一系列謠言，諸如“女孩父親系繼父”“女孩被帶往溫州”等。這些謠言團伙通過批量注冊網絡賬號的方式，對謠言進行進一步的轉發炒作，閱讀量超百萬。僅通過炒作這一事件，該團伙就非法獲利4萬余元。警方進一步調查后發現，該團伙還圍繞各類全國性社會熱點，在各大平臺高頻發帖，轉載虛假負面信息，牟取不法利益。目前，團伙中12名成員已被依法移送起訴，涉案相關網絡賬號已被全部封禁。

毫無疑問，這些謠言會給當事人極其家人造成難以磨滅的困擾和傷害。

警方也將加強對網絡新技術新業態的研究，與互聯網企業建立7×24小時溝通聯系機制，全面強化企業巡查處置能力，積極查擺網絡安全責任制度問題隱患。與此同時，警方還會指導建立辟謠專區，賬號及謠言舉報入口，盡量將謠言所帶來的傷害控制到最低。

更有甚者編造虛假的官方通報——聳人聽聞，觸碰紅線。

編造假新聞的行為已經十分離譜，卻不想有些人還更過分，居然連重大的社會事件，官方通報都敢編造。

2024年1月23日，廣西壯族自治區東興市的駱某某（男，32歲）為博取流量吸引粉絲，將其他地區的抗洪救災視頻，利用AI軟件自動編輯功能，嫁接新疆烏什縣發生地震的虛假視頻信息。一時之間，視頻被大量播放，還引發了許多不明真相網民評論和轉發，嚴重干擾社會秩序。目前，東興市公安機關已依法對駱某某進行處罰。

無獨有偶。同樣在廣西壯族自治區，賀州市的網警發現有人冒用賀州市平桂區人民政府辦公室的名義，在網上發布一條"關于賀州市第五高級中學小賣部經營權調查情況的通報"。經調查，網警發現通報內容與政府發布通報的實際情況嚴重不符。這條虛假通報的發布人是山東青島人于某某，它在網上看到關于賀州市第五高級中學小賣部經營權調查情況的通報后，為了蹭熱度為自己賬號漲粉，就使用 AI 工具將該報道重新生成了一篇內容，與政府發布通報實際情況嚴重不相符的文章，并發布到網上。目前，公安機關已依法對其處以行政處罰。

官方下場表態：人工智能生成謠言成本低，治理須“下猛藥”。

利用AI技術蹭熱度，造謠，乃至偽造官方通報，重大社會事件的行為無疑是非常惡劣的。

相較于傳統的，由造謠者人工編造散播的謠言，使用AI工具來造謠的危害顯然更大。一方面，利用AI技術，造謠者只需要進行簡單的描述，虛假文字信息，圖片，視頻就會立馬生成。相較于傳統造謠，AI造謠的成本更低。另一方面，最新的生成式AI技術足夠厲害，已經接近“以假亂真”的效果。人工智能還能根據傳播渠道的特征，實施個性化的謠言生成，迷惑性更強，傳播范圍更廣，所產生的危害也會更大。更令人細思極恐的是，一些不法分子心懷鬼胎，會借助AI批量生產謠言并大量投放，擴散范圍廣，并面向特定受眾精準投放。這種行為所造成的危害將不堪設想。

也正因此，官方也直接下場，直接定下了“要嚴厲打擊AI造謠等不法行為”的調子。人民網就表示：欲去“沉疴”還需“猛藥”。

人民網表示，由AI代勞完成謠言十分簡單，但為了核實這些的信息真假，相關機構和個人往往要投入大量人力物力，消耗大量社會成本。一些謠言不僅給受害方造成巨大的精神傷害，也會產生不容低估的經濟損失。

所以，可以從司法治理層面考慮，將“AI造謠”作為新型犯罪手段，積極探索其入罪的依據，加大懲處力度。

網絡本就不是不法之地，利用AI技術在網絡上大肆傳播虛假信息就更是錯上加錯。如今有了官方發聲，下場直接定性，我們有理由相信，AI亂象一定會被控制在監管之下。

審核編輯 黃宇