每經記者 宋美璐    每經編輯 張海妮    

福州某科技公司法定代表人9分鐘被AI換臉騙430萬元的風波剛過，又有安徽何先生9秒被換臉騙走245萬元。

另一邊，直播間中，換上楊冪、迪麗熱巴等明星臉的主播出現在直播間帶貨，讓觀眾真假難辨。

疑似換臉楊冪的帶貨主播 圖片來源：視頻截圖

社交網站的演示視頻中，手一揮一秒換臉的視頻比比皆是，每個人都能用AI制作一段視頻，騙子也不例外。

AI音樂、AI繪畫、AI換臉、AI換聲……不知不覺中，我們每個人都已經走進了賽博世界，不管是抖音中的#一鍵解鎖瞬息全宇宙##一鍵變妝#等特效的應用還是AI孫燕姿的“消費”，都是AI日?；囊娮C。

在所有人都在享受技術狂歡的時候，技術的另一面也逐漸顯露：偽造技術和鑒別技術好似在玩一場“貓鼠游戲”，最終誰能把握主動權？

可以批量生產的AI換臉，技術門檻有多低？

AI換臉技術并非新事物，早在2019年，一個換臉軟件“ZAO”的出現，就曾讓AI換臉風靡網絡，網絡視頻平臺上出現大量的AI換臉惡搞視頻，許多明星因此被惡搞、造謠。

盡管，當時“ZAO”上線不久便因侵犯隱私等問題被下架，但這個由技術帶來的負面影響卻一直存在，直到今年AI技術的普及使得換臉再次爆發。

瑞萊智慧RealAI聯合創始人、算法科學家蕭子豪表示，AI換臉、AI換聲主要使用的是深度合成技術，隨著深度合成技術的開源開放、深度合成產品和服務的增多，深度合成內容制作的技術門檻越來越低，實現了技術的“平民化”，普通人也能用少量圖像、音頻等樣本數據，利用簡便易用的合成工具，制作深度合成內容。

蕭子豪介紹，目前視頻聊天或直播的AI換臉有兩種方式：一種是事先做好的換臉視頻直接播放，一種是接入實時換臉的視頻。第一種方式，目前的制作成本已經非常低，有公開成熟的應用可以支持該項工作；第二種雖然沒有發現有公開的應用，但也有非常成熟的技術手段可以支撐。做成一段視頻的時間和設備、算力等因素相關，當前技術可以做到和生成視頻相等的時間即產出結果。制作這樣的視頻需要被替換前的原始視頻圖像和被替換后的人臉圖像，基于目前的技術能力，替換前的原始視頻圖像在面部清晰、正臉無遮擋、無夸張動作等條件下，會展示出比較好的效果。

AI從業人員湯輝也表示，現在的AI換臉對技術的要求非常低，“如果是專門的技術人員，在網上找一個開源的模型，然后先自己搞懂。如果只是采集一段這個人的圖像生成視頻，很快就能訓練出來。20分鐘就可以做一個。”

在手機應用商店搜索“AI換臉”可以發現，有不少相關軟件，其中faceplay在ios系統的下載量已達24萬，該軟件有影視角色、寫真、漫畫等模板。軟件采取收費獲取模版的形式盈利，周會員17元，年會員398元。也有的軟件只需看廣告就可以制作。

換臉軟件faceplay下載和收費界面 圖片來源：截圖

電商平臺上雖已屏蔽“換臉”等關鍵詞，但通過搜索其他相關詞條仍能找到相關內容，售價多在幾十元。

某電商平臺售賣AI換臉產品的詳情介紹  圖片來源：網頁截圖

抖音等短視頻也推出簡易AI換臉模板，比如換臉跳舞、變臉換裝、男女換臉等。記者嘗試導入照片后幾秒鐘便可生成一個視頻，但這類視頻精度相對較低，偶爾轉頭還可以看到一些不貼合等漏洞。

此外，許多大型科技公司也在著力布局相關業務，AI概念股萬興科技（SZ300624，股價136.60元，市值188.09億元）落地了AI換臉、AI摳像、AI降噪、AI音頻重組等多項AI能力。據媒體報道，5月25日萬興科技旗下的萬興播爆已全面上線AI數字人定制服務，支持數字人形象定制、聲音復刻和視頻模板定制。用戶只需錄制一段6分鐘左右的視頻和20句有效音頻語料素材，便可生成“真人”“真聲”專屬數字人。

“目前AI已經可以批量制作大量的視頻，制作多段替換成同一人物的視頻，也可制作同時替換為多位人物的視頻。”蕭子豪說。

為AI打標記，一場“貓鼠游戲”

“技術只會發展得越來越快，也許你現在能看出來是AI，還是真人，但是半年后，一年后呢？”湯輝認為AI技術發展太快，但是現實生活中了解AI的人又太少，進而導致詐騙頻繁發生。

蕭子豪也表示，目前深度合成技術在不斷進化，生成的聲音和視頻越來越逼真，普通人肉眼鑒別的難度也越來越高。

據媒體報道，微軟首席技術官（CTO）凱文·斯科特在當地時間5月23日開幕的Build開發者大會前夕接受采訪時曾表示，微軟3年來一直在研究“媒體來源系統”——在AI生成的內容里放置加密水印，可以使用軟件解密水印以獲取來源信息，以檢測虛假信息。

從技術上來看，蕭子豪介紹，他們一直在研究深度合成技術的自動化檢測，常用的方法包括基于偽造內容數據集完成對模型檢測器的訓練、基于幀間不一致性實現對偽造內容的判別等，這些方法在開源數據集中均能達到99.9%的準確率。

“防范的難度在于新型偽造方法層出不窮、網絡傳播環境日趨復雜，加上基于深度神經網絡的檢測算法存在結構性缺陷等，反深偽檢測技術也面臨‘強對抗性’，需要持續更新與迭代優化。”

類似于“貓鼠游戲”，蕭子豪說，深度合成和檢測在不斷學習攻防過程中會自我進化，規避上一代的對抗技術。為了能在對抗攻防中掌握主動權，未來反深偽檢測技術的發展需融合多模態內容的取證分析、基于數字水印的溯源技術等多方面能力，實現偽造內容的精準識別，打造可信內容體系。

《互聯網信息服務深度合成管理規定》明確要求深度合成服務提供者對使用其服務生成或者編輯的信息內容，應當采取技術措施添加不影響用戶使用的標識，對于具有生成或者顯著改變信息內容功能服務的，應當在生成或者編輯的信息內容的合理位置、區域進行顯著標識，向公眾提示信息內容的合成情況，避免公眾混淆或者誤認。

記者注意到，目前b站已經在一些視頻上為AI合成視頻打上明顯標記，抖音在5月9日發布了關于AI生成內容的平臺規范暨行業倡議，倡議各生成式人工智能技術的提供者，均應對生成內容進行顯著標識，以便公眾判斷。同時使用統一的人工智能生成內容數據標準或元數據標準，便于其他內容平臺進行識別。

B站AI技術合成標識 圖片來源：截圖

蕭子豪建議，普通人如果遇到有疑問的情況，可以在看視頻時有意識地引導對方做一些動作，如：大幅度的搖頭或張嘴。如果騙子技術手段較弱，那么就有可能發現對方面部邊緣或者牙齒的瑕疵，從而識別出AI換臉。但同時他也表示，這個方法對于識別出“高水平”的詐騙分子，還存在難度。此外，還可以追問幾個只有你與借款者之間才知道的私密信息，來核實對方身份。

AI換臉有風險

根據著作權法的有關規定，如果AI換臉使用的是表演者的視頻素材，還可能侵犯其著作權。如果是非法使用，例如本案中的行為人冒用郭先生好友的微信，利用AI換臉詐騙，則不僅構成侵權，還涉嫌犯罪。

如果在直播中使用AI換臉服務，直播商家、平臺方和技術提供方都將承擔一定的責任。尤其根據《互聯網信息服務深度合成管理規定》，如果深度合成服務提供者和技術支持者違反規定的，相關部門會給予處罰；構成犯罪的，還要承擔相應的刑事責任。

此外，北京市京師律師事務所王榮梅律師團隊提醒，關于AI生產的內容版權歸屬問題，目前也還存在爭議。

首先，AI生成的內容是否構成作品就存在爭議；其次，在實務中，AI生成物的性質認定也存在爭議。所以目前法律沒有就AI生成內容的版權作出明確規定，但是在《生成式人工智能服務管理辦法（征求意見稿）》第五條中，規定了此類內容侵權的主體責任。即利用生成式人工智能產品提供聊天和文本、圖像、聲音生成等服務的組織和個人，包括通過提供可編程接口等方式支持他人自行生成文本、圖像、聲音等，承擔該產品生成內容生產者的責任。

“目前，AI還是一個新興的領域，發展日新月異，在為人們的工作和生活帶來便捷的同時，也有不法分子利用此技術從事違法犯罪活動，目前，AI領域的規定散見于民法典、個人信息保護法、網絡安全法，尚未形成系統的法律體系。相信隨著此技術的廣泛應用，法律法規也會不斷與時俱進，國家會出臺更多的規范措施，逐漸形成完備的法律體系。”王榮梅律師團隊說。