隨著人工智能（AI）的發(fā)展迭代，生成式AI正以前所未有的速度重塑著日常生活，但由此衍生出的新騙局、新套路也在刷新人們對風險防范的認知。這背后不僅關乎廣大消費者的財產安全，還潛藏著人身安全的風險和隱患。

近日，外媒曝光了一種全新的數字詐騙，詐騙犯利用復雜的AI工具制作特斯拉CEO馬斯克等名人的視頻，并利用這些“AI名人”對各種虛假的產品或“投資”進行背書，并承諾高額投資回報。

在其中一個典型案例中，“AI馬斯克”背書的一家所謂的外匯公司輕松騙走了一名82歲的退休老人超過69萬美元（約495萬元人民幣）的畢生積蓄。

在這類騙局中，詐騙犯通常先尋找一個真實的采訪馬斯克的視頻，再使用AI工具將他的聲音替換，并利用口型同步技術編輯馬斯克的口型，讓視頻看起來更加真實。對于普通人來說，這種以假亂真的視頻可能是非常難以辨別的。

除了馬斯克外，“股神”巴菲特和亞馬遜創(chuàng)始人杰夫·貝索斯等也是常出現在這類詐騙視頻中的名人。

“AI馬斯克”泛濫，生成僅需幾分鐘，卻有人被騙近500萬元

最近幾個月來，成千上萬個由AI驅動的視頻在互聯網上泛濫，這類視頻被稱為“深度偽造（deepfakes）”。根據德勤的估計，AI驅動的“深度偽造”視頻/廣告預計每年將造成數十億美元的欺詐損失。

然而，這些視頻的制作成本只有幾美元，幾乎可以忽略不計，而且可以在幾分鐘內完成。這類視頻由于名人效應在社交媒體上被廣泛推廣，包括Facebook上的付費廣告，擴大了它們的影響范圍。

騙子們會從一段真實的視頻開始，比如下面這段來自《華爾街日報》的采訪馬斯克視頻，提問者是該報一名編輯Thorold Barker，他的聲音也出現在視頻片段中。

圖片來源：《華爾街日報》

在“深度偽造”視頻中，馬斯克的嘴部動作用唇部同步技術進行了編輯，這種技術可以調整一個人的說話方式。騙子還會用語音克隆工具添加AI聲音，這種工具可以從樣本中復制任何他們想要的聲音。因此，最終的視頻對于普通的互聯網用戶來說，可能相當有說服力。

已有人因此上當受騙，82歲的退休老人Steve Beauchamp便是典型案例。據外媒報道，去年年底，82歲的退休老人Beauchamp觀看了一段視頻廣告。視頻中馬斯克支持一個承諾快速回報的激進投資機會，口型與聲音都高度吻合，還融入了馬斯克標志性的南非口音，看起來極為真實。于是，Beauchamp聯系了該廣告背后一家名為Magna-FX的外匯公司，開設了一個248美元的賬戶。經過數周的一系列交易，Beauchamp耗盡了他的退休賬戶，最終投資了69多萬美元（約合495萬元），而這些錢都被卷走了。

另據非營利性消費者權益組織美國商業(yè)促進局的一份報告，一名得克薩斯州人表示，他在看到馬斯克于2023年2月在所謂的YouTube“直播”視頻中發(fā)言后，損失了價值3.6萬美元的比特幣。其稱，“我把比特幣發(fā)送了出去，卻再也沒有收到任何東西。”

負責監(jiān)控和檢測“深度偽造”的公司Sensity分析了2000多個深度偽造視頻后發(fā)現，到目前為止，馬斯克是這類視頻中最常見的“AI形象”。具體來說，自去年年底以來，“AI馬斯克”出現在近1/4的“深度偽造”騙局中。而在加密貨幣相關的“深度偽造”視頻中，他出現的頻率甚至高達90%。

對此，研究加密貨幣社區(qū)的專家表示，馬斯克在全球擁有獨特的粉絲群，其中包括保守派、反建制派和加密貨幣愛好者，這類群體往往會被另類的發(fā)財途徑所吸引，這也使他們成為數字詐騙犯的完美目標。而且這類群體中，年紀較大的互聯網用戶往往更容易成為詐騙犯的目標，這類群體對加密貨幣、AI和馬斯克都非常熟悉，但他們的警惕性往往不足。

除了馬斯克外，“股神”巴菲特和亞馬遜創(chuàng)始人杰夫·貝索斯等也是常出現在這類詐騙視頻中的名人。

AI技術成詐騙工具，Facebook和Youtube是重災區(qū)

外媒報道中稱，目前來看，很難量化到底有多少“深度偽造”視頻在網上流傳，但在Facebook的廣告庫中搜索這些騙局的常用關鍵詞，能搜索到數十萬個廣告，其中許多都包含“深度偽造”視頻。

盡管Facebook已經刪除了許多違反其政策的視頻，并關閉了一些賬戶，但其他視頻仍在網上流傳，而且似乎每天都有更多的視頻出現。不僅是Facebook，YouTube上也充斥著這些造假視頻，而且通常使用“直播（live）”標簽。但事實上，這些視頻是預先錄制的”深度偽造”視頻。

YouTube在一份聲明中說，僅今年一季度，就刪除了超過1570萬個頻道和超過820萬個視頻，這些內容大多因違反其反垃圾郵件政策而被刪除。

這類“深度偽造”廣告的盛行還導致澳大利亞億萬富翁Andrew Forrest提起民事訴訟，控告Facebook的母公司Meta在廣告業(yè)務運營方面存在疏忽。他認為，Facebook的廣告業(yè)務誘使“無辜用戶進行了錯誤的投資”。Meta則表示，其正在培訓自動檢測系統，以捕捉其平臺上的欺詐行為，但同時也提到，資金雄厚的欺詐者會不斷變換策略以逃避檢測。YouTube則表示，其政策禁止欺詐和篡改視頻，并于今年3月要求創(chuàng)作者在使用AI創(chuàng)作真實內容時必須披露。

事實上，數字詐騙并不新鮮，但自去年AI工具開源后，新一波“深度偽造”視頻井噴。

今年早些時候，美國聯邦貿易委員會（FTC）和FBI也發(fā)出警告稱，AI驅動的網絡犯罪和深度欺詐正在上升。FBI表示，“犯罪分子正在利用AI讓網絡攻擊和其他犯罪活動更有效，更難以被發(fā)現”。

“深度偽造”視頻并不完美，甚至在一些視頻中，“AI馬斯克”的嘴型都對不上，但有專家表示，對于一些詐騙犯的目標群體來說，他們制作的視頻似乎足夠有說服力，而且一直在改進。

此外，一些騙局還經常宣傳虛假的人工智能軟件，稱它們可以產生可觀的投資回報。詐騙犯以此誘使目標受眾一開始只投一小筆錢（大約250美元）。隨后，騙子不斷宣稱投資會升值，人們往往慢慢被引誘投入更多資金。

被騙了畢生積蓄的Beauchamp在提交給美國商業(yè)改進局（Better Business Bureau）的報告中表示：“此刻，我愿接受所有指責與嘲諷，作為對自己輕信的懲罰。”

他表示，目前正依靠一個未向詐騙者透露的較小退休賬戶及養(yǎng)老金來維持生計，而他原本計劃使用這些積蓄環(huán)游世界。Beauchamp已經向當地警方報案，但案件進展緩慢。“由于到處都是欺詐案件，我的案件被放在了隊列中，”他說，“我沒有抱太大希望。”