每經(jīng)編輯 畢陸名

Deepfake最新受害者出現(xiàn)了——全球頂流，泰勒·斯威夫特（Taylor Swift，中文綽號“霉霉”）。

近乎是在一夜之間，X、Facebook等社交平臺上便充斥了大量虛假“不雅照片”，而且瀏覽量已經(jīng)高達(dá)上千萬！盡管最早傳播這些圖片的賬號已被封禁，但照片的流傳仍未徹底阻斷。

圖片來源：視頻截圖

泰勒·斯威夫特本人也已經(jīng)得知此事，對此表示相當(dāng)憤怒，粉絲們也自發(fā)組織了保護(hù)行動(dòng)。

在X上，有網(wǎng)友直接@馬斯克，喊話說這事馬斯克你得出來管管了。

究其原因，事情要從泰勒·斯威夫特和美國NFL橄欖球運(yùn)動(dòng)員Travis Kelce的戀情說起。Kelce效力于堪薩斯城酋長隊(duì)，兩人的戀愛關(guān)系被曝光后，泰勒也成為了該球隊(duì)比賽的常客。

于是便有人借題發(fā)揮，用AI生成了以球場為背景，涉及泰勒和多名虛構(gòu)“隊(duì)員”的露骨照片。

圖片來源：視頻截圖

而關(guān)于這些圖片的傳播過程，則存在多種傳聞，有說法是最早出現(xiàn)在某加密聊天群組當(dāng)中。有報(bào)道則稱，這些Deepfake照片一開始被傳至一家不良網(wǎng)站，這個(gè)網(wǎng)站上充斥著大量以知名人士為主角的不雅照片。

除了泰勒，這家網(wǎng)站還收錄了成百上千的名人，包括飾演芭比的Magrot Robbie也未能幸免。

“Taylor Swift AI”一度成為了X上的熱門話題，不過目前疑似已被屏蔽。

截至目前，一些參與傳播照片賬號已被各大平臺陸續(xù)封禁，但仍有不少漏網(wǎng)之魚。

Facebook方面，母公司Meta也有一名發(fā)言人稱：這些內(nèi)容違反了我們的政策，我們正在將其從我們的平臺上刪除，并對發(fā)布該內(nèi)容的賬戶采取行動(dòng)。

但也有網(wǎng)友說，這不是刪除的問題，這些照片一開始就不應(yīng)該出現(xiàn)在這些平臺上。對此Meta也做出了回應(yīng)，表示“會繼續(xù)監(jiān)測并及時(shí)刪除違規(guī)內(nèi)容”。

在26日白宮記者會上，發(fā)言人讓-皮埃爾被問及此事時(shí)表示，“我們對此類圖像流傳感到擔(dān)憂，更確切地說，是虛假圖像，這令人擔(dān)憂。”

“雖然社交媒體公司在內(nèi)容管理方面可以獨(dú)立做出決定，但我們認(rèn)為他們在執(zhí)行自己規(guī)則方面可以發(fā)揮重要作用，以防止錯(cuò)誤信息和未經(jīng)同意的真實(shí)人物私密圖像傳播。”讓-皮埃爾說。

她還補(bǔ)充說，網(wǎng)絡(luò)上的執(zhí)法不嚴(yán)對女性影響更大，她們是受到網(wǎng)絡(luò)騷擾和欺凌的主要目標(biāo)。讓-皮埃爾稱，這并不是新問題，是拜登和哈里斯政府從上任第一天起就優(yōu)先考慮的問題，“我們對此非常重視。再一次，這讓我們感到擔(dān)憂。”

圖片來源：視頻截圖

值得一提的是，這不是泰勒·斯威夫特第一次被AI整蠱。1月初，一則由人工智能生成的假泰勒·斯威夫特帶貨廣告在社交媒體Facebook上傳播。

“嘿你們好，我是泰勒·斯威夫特。由于包裝出錯(cuò)，有3000套Le Creuset（中文名譯為‘酷彩’）炊具套裝無法正常線下銷售，轉(zhuǎn)向線上出售。有一個(gè)好消息分享給你們，我與Le Creuset聯(lián)手進(jìn)行促銷——有20位忠實(shí)粉絲將免費(fèi)獲得贈(zèng)送的炊具套裝。”

AI生成的泰勒·斯威夫特推銷Le Creuset炊具視頻。

在這則廣告中，斯威夫特坐在鋼琴前，向大家推銷法國高端炊具品牌Le Creuset，并表示作為她的“新年大放送”，會向20位粉絲免費(fèi)贈(zèng)送一套炊具。

事實(shí)上，視頻中的“霉霉”并不是真的斯威夫特，而是AI“深度造假”技術(shù)合成了她的聲音，并將聲音與她的形象和Le Creuset廣告片段拼湊在一起。涉事公司對此迅速做出回應(yīng)稱，斯威夫特沒有參與任何消費(fèi)者贈(zèng)品活動(dòng)，所有關(guān)于產(chǎn)品促銷的活動(dòng)均來自官方社交活動(dòng)。

什么是AI“深度造假”？

AI“深度造假”（Deepfake）技術(shù)再次引發(fā)關(guān)注。深度造假（Deepfake）是英文“Deep learning”（深度學(xué)習(xí)）和“Fake”（偽造）的混成詞，指利用深度學(xué)習(xí)技術(shù)生成合成圖像、音頻或視頻的技術(shù)。

美國布法羅大學(xué)“媒體取證實(shí)驗(yàn)室”的計(jì)算機(jī)科學(xué)教授呂思偉（Siwei Lyu）表示，“霉霉”這起“深度造假”詐騙活動(dòng)很可能是利用文字轉(zhuǎn)語音服務(wù)制作的。這類工具可將腳本轉(zhuǎn)譯成聲音，并用唇語同步程序?qū)⑵浜铣芍烈曨l片段。

每日經(jīng)濟(jì)新聞綜合公開消息

封面圖片來源：視覺中國