每經編輯 盧祥勇    

3月26日，抖音安全中心發布消息稱，去年，抖音發布《關于人工智能生成內容的平臺規范暨行業倡議》，明確平臺不鼓勵利用AI生成虛擬人物進行低質創作，將嚴格處罰違規使用AI生成虛擬人物發布違背科學常識、弄虛作假、造謠傳謠的內容。

近期平臺發現，站內仍有不當使用AI技術生成虛擬人物發布內容的賬號，平臺進行了嚴厲處置。

其中典型行為包括：

1、生成境外虛假人設，消費愛國心理、博取關注。用虛假外國人的形象，以想嫁給中國、想到中國生活、評價社會事件等言論博取眼球。

2、生成俊男美女虛假形象，騙取互動，交友導流。直接稱用戶為“你”“娘”“媽媽”“老公”等，發布情感誘導、唱情歌、為你謀福利等表達虛假情感的內容，將用戶導流至私人聊天工具，甚至進行詐騙。

3、生成精英人士虛假人設，發布心靈雞湯、財商、偽國學、厚黑學、偽成功學等不良內容，低質吸粉，甚至引流到站外以賣課、入群等方式獲利。

針對違規使用AI生成虛擬人物的行為，平臺會對違規視頻下架，對違規賬號進行取消其投稿和營利權限、抹除賬號粉絲、封禁賬號等處置，并利用模型、技術識別能力等手段，進行長期系統的識別發現和處置。同時，平臺已掌握部分黑產團伙不當使用AI生成虛擬人物用于犯罪的線索，將報警打擊。

人工智能技術的快速發展，豐富了互聯網內容生態，但也帶來技術濫用的挑戰。平臺重申，創作者、主播、用戶、商家、廣告主等平臺生態參與者，在抖音應用生成式人工智能技術時，須遵循以下規范：

1、發布者應對人工智能生成內容進行顯著標識，幫助其他用戶區分虛擬與現實，特別是易混淆場景。

2、發布者需對人工智能生成內容產生的相應后果負責，無論內容是如何生成的。

3、虛擬人需在平臺進行注冊，虛擬人技術使用者需實名認證。

4、禁止利用生成式人工智能技術創作、發布侵權內容，包括但不限于肖像權、知識產權等。一經發現，平臺將嚴格處罰。

5、禁止利用生成式人工智能技術創作、發布違背科學常識、弄虛作假、造謠傳謠的內容。一經發現，平臺將嚴格處罰。

此前3月25日，抖音還發布了關于開展“厚黑學”“偽成功學”專項治理的公告。其中提到，為落實國家網信辦和北京網信辦“清朗”系列專項行動要求，抖音開展“厚黑學”“偽成功學”專項治理行動，治理“自媒體”炒作社會焦慮，無底線吸粉引流牟利問題。

近期平臺在巡查中發現，有少數“自媒體”利用普通人想迅速成功的心理，針對性策劃內容和開設矩陣號，將取得成功的方式簡單化、套路化甚至“厚黑化”，并通過開設私董會、培訓班等方式變現。也有部分“自媒體”，利用技術大爆炸時代普通人擔憂“落伍”的正常心態，渲染社會焦慮并販賣“解藥”，通過大量矩陣號將用戶引流至第三方以賣課、入群等方式變現。

上述行為，嚴重違反了平臺規則，損害了其他用戶的權益，平臺將采取包含下架視頻、取消營利權限、抹除不當獲取的粉絲、禁止搜索關注、封禁賬號在內的措施進行治理。

編輯|盧祥勇 杜恒峰

校對|段煉

封面圖來源：每日經濟新聞 劉國梅 攝

每日經濟新聞綜合自湖南省公安廳官微、湖南日報、化州市政府、張家口市政府