點藍色字關注“中央廣電總臺中國之聲”

近日，因AI換臉技術導致的詐騙案件引發了人們的關注。伴隨著AI大模型的發展，“換臉”技術應用范圍越來越廣，技術的突破還使得換臉后的人物表情、動作細節更為逼真，一旦被不法分子利用，可能會帶來嚴重危害。記者調查發現，在網上，AI換臉軟件的獲取非常容易，利用AI換臉軟件的法律邊界在哪里？如何做好事前監管？

01

網絡上出現付費AI換臉軟件

套餐價格從499元到2888元不等

當下，依托于大模型及算法的突破，AI換臉正在實現更大范圍的應用，引發更多擔憂。在網絡上，演示換臉軟件使用方法及效果的教程比比皆是。不同于大量給普通人“嘗鮮”的免費軟件，記者發現，在網絡上還有很多高價的付費AI換臉軟件，這些付費軟件與免費軟件有什么樣的不同？

記者搜索“AI換臉軟件”后聯系上了一個開發者，他給記者提供了一段使用其軟件實現換臉的示范視頻——雙視窗頁面左側是換臉之前的原始視頻，右側則是換臉之后的視頻，肉眼來看，換臉之后的“數字人”口型、表情、微小的動作幾乎毫無破綻。

△賣家展示的素人換臉效果（S為原視頻，D為更換之后）

在其銷售網站上，該軟件開發者還展示了如何將兩位知名女星的眼睛和嘴巴拼接到一起，生成全新“數字人”的視頻。

△賣家展示的局部五官更換

這一付費軟件提供從初級（LV1）到超級（LV4）再到全套（LV5）的不同版本。以初級套餐來說，499元提供軟件界面、視頻指導、換臉模型等，如果花2888元，則可以得到全套（LV5）等級的視頻換臉模型。

△網絡上提供多種不同等級的換臉軟件產品?

02

???????

“想換什么臉都可以”

AI大模型可集成多種功能打造“數字人”

打開該網站，底部沒有任何文字顯示其經過了備案。賣家也十分謹慎，全程僅用文字交流。他表示，與初級（LV1）至超級（LV4）套餐相比，全套（LV5）版本迭代更多，能力更強，也可以理解為換臉效果更為逼真，同時，不僅可以實現視頻換臉，還支持直播換臉。

記者進一步詢問，能否根據自己的需求換臉？軟件開發者表示：“想換什么樣的臉拿素材訓練就可以”。

△軟件開發者在與記者的聊天截圖

一位從事AI開發的技術人員表示，這意味著可能會有更多難以控制的風險。“類似于這樣的AI換臉技術是開源的，最近的AI大模型火起來，它的算法又有了更新，就可以集成文生圖、文生文，文生音頻、文生視頻、換臉，這樣的功能結合起來，就可以打造出一個完全嶄新的‘數字人’或者叫‘AI人’，監管的成本和難度高了好幾個數量級。”