據悉，去年8月抖音發布了《人工智能生成內容的平臺規范及行業倡議》，強調禁止利用AI技術制作虛擬人物進行低質量創作。今年3月27日，抖音安全中心又發布公告表示，發現少數賬號依然存在使用AI技術生成虛擬人物的違規行為。

此類違法行為主要表現在以下幾個方面：

首先，生成虛假外國人形象，假裝熱愛祖國吸引關注，例如聲稱愿意嫁到中國或是來中國生活。

其次，生成俊男靚女形象進行欺騙性互動，誘導網友添加個人賬戶進行私聊，甚至有些行為涉嫌詐騙。

再者，生成精英人士形象，發布偽成功學等引導性不良內容，吸引低質粉源，甚至引流至外部進行收費課程或加入收費團體。

針對此類違規現象，抖音平臺將視情節嚴重程度采取相關處理措施，如下架違規視頻、取消違規賬號的投稿和盈利許可、刪去該賬號粉絲、停用賬號直至封鎖賬號等。此外，若發現違規行為涉及刑事犯罪，抖音將會向警方尋求協助。

抖音官方再次聲明，AI技術為互聯網內容提供了新的可能，但也存在被濫用的風險。所有創作者、主播、用戶以及商家都應遵守抖音應用人工智能生成技術相關規定，具體內容包括：

1.發布者應該清晰標注哪些內容是由人工智能生成，尤其是易引起誤解的場景需要更加明顯的提示。

2.人工智能生成的內容，責任應由其發布者承擔，無論是怎樣生成的。

3.虛擬角色應在平臺上完成注冊，虛擬角色技術使用方還需注冊為實名認證用戶。

4.嚴禁利用人工智能技術生產、發布侵犯他人權益的內容，比如肖像權、知識產權等。違反規定者，平臺將會嚴肅處理。

5.嚴禁利用人工智能技術制作、傳播違背科學常識、造謠傳遙的內容。對于此類違法行為同樣會加大懲罰力度。