中國消費者報報道（記者王小月）如今,，AI換臉圖片和視頻成為熱門現(xiàn)象,，換臉視頻碰瓷他人的現(xiàn)象也屢屢引發(fā)關注。AI換臉的背后,，從傳播到制作到后端各個環(huán)節(jié)幾乎都藏有一門生意經,，也存在相關風險與困擾?！吨袊M者報》記者就此進行了調查,。
名人“被帶貨”屢禁不止
人們常說眼見為實，但虛擬世界里的“眼見”卻不一定“為實”,。前段時間,，“張文宏醫(yī)生帶貨蛋白棒”的消息讓不少人信以為真，部分商家通過AI換臉,、合成人聲等技術手段,，將張文宏的面容與聲音移花接木用于直播帶貨，引得當事人不得不出面辟謠和譴責,。
面對這些明目張膽的侵權行為,，張文宏在接受媒體采訪時表示：“類似的賣貨賬號不止一個且一直在變，我多次向平臺投訴,，但這種現(xiàn)象屢禁不絕,。很多不明真相的消費者，特別是對于AI技術不是很熟悉,、年紀較大的消費者很容易相信,。”
無獨有偶,，北京大學國家發(fā)展研究院教授李玲去年9月發(fā)表聲明稱,，“網上大量假冒本人推銷醫(yī)藥書籍和治療手段的虛假視頻，大多由人工智能AI合成,，已經報警,?！辈贿^,，記者調查發(fā)現(xiàn),，網上仍有以李玲名義推薦書籍的短視頻，聲音與本人別無二致,，短視頻詳細介紹了某一書籍,，購物車的同款書籍顯示已售9.7萬，短視頻中還配有文字“關鍵時刻能救命”,。
AI作為一種新技術,，面世以來即被應用到多個領域，但也出現(xiàn)了不少利用AI進行違法犯罪的案例,，包括仿冒名人,、造謠、換臉詐騙,、竊取隱私等,。近期，微信平臺發(fā)布消息稱,，針對“利用AI技術仿冒名人進行不當營銷”的情況進行了打擊,，關閉賬號209個。
AI換臉背后的生意經
在網上,，AI換臉的門檻很低,。記者在“泡咖AI”APP上看到，AI換臉功能包括照片換臉,、視頻換臉,，VIP換臉套餐7天會員價59元、月度VIP99元,、年度VIP499元,。產品頁面介紹顯示，圖片換臉“一張照片,，輕松合成照片寫真”,、視頻換臉“一鍵替換視頻中的人臉”。在MJ繪畫官網,，視頻換臉只需上傳視頻和人臉圖片,，AI會把上傳的人臉照片替換到視頻中。為了免責,，不少網站都在下方用小字標注“生成視頻僅供學習娛樂,，合成視頻不得用于非法用途，違者個人承擔全部責任”,。
記者發(fā)現(xiàn),，不少換臉軟件都需要付費使用,。在二手交易平臺上，也有人以幾元的價格售賣AI換臉,、人聲克隆等免費開源文件的安裝包,，并附有相關教程，付款后通過網盤發(fā)送,。
為了規(guī)避平臺的關鍵詞識別,，記者在二手交易平臺搜索“AI換lian”后，看到有多個賣家,，一鍵換臉售價均為1元左右,。名為“全網項目工具箱”的商家魚小鋪在詳情頁面介紹稱，“只需一張照片就可以替換,，簡單操作”“任何視頻和照片都可以替換,，滿足一切換臉需求”，單次換臉僅需1.5元,，10元就能購買年卡,。
“早期的換臉軟件一般是通過使用機器學習模型，將圖片或視頻合并疊加到源圖片或視頻上,，借助神經網絡技術進行大樣本學習,，并與聲音、表情和動作合成,。當前的AI換臉屬于深度偽造的AI技術的衍生應用,。”深度科技研究院院長張孝榮對《中國消費者報》記者表示，隨著生成式人工智能的發(fā)展,，AI技術使用難度進一步降低,，不少新興APP和主流視頻軟件上都增加了類似功能，普及率大大提升,。如此一來,，線上的“李鬼”日益增多，且愈發(fā)難辨真假,。
北京社科院副研究員王鵬對記者表示,，簡單的AI換臉技術難度并不高，具有一定技術水平的團隊和小公司依托開源軟件就可以實現(xiàn)基礎性的AI換臉,。而一些精細化,、與微表情密切相關的換臉，則需要具有一定的算力需求,。因此,，在直播中使用AI換臉軟件的成本并不高，這也導致在社交媒體上,、直播中出現(xiàn)了很多欺詐行為,，侵犯了消費者的合法權益,。
應多渠道進行規(guī)范
近年來，各地出現(xiàn)了不少利用AI技術直接參與犯罪的案例,，犯罪分子利用AI換臉,、換聲，冒充他人進行詐騙,，也有人利用AI竊取他人隱私,。奇安信集團發(fā)布的《2024年人工智能安全報告》顯示，基于AI的深度偽造欺詐在2023年激增30倍,。那么，消費者該如何識別換臉破綻并加以防范,？
中國網絡空間安全協(xié)會人工智能安全治理專業(yè)委員會委員張博表示,，AI換臉技術如今已經比較成熟，甚至能夠實現(xiàn)視頻通話的實時換臉,，雖然單憑肉眼很難分辨,，不過只要稍加留心，AI換臉還是有明顯破綻的,，漏洞就在面部輪廓和光線上,。
“視頻通話時，要仔細觀察對方的面部輪廓是否存在異常模糊情況,、光線是否正常,。”張博說,，必要時可以要求對方快速大幅度地抬頭,、點頭、轉頭,，然后在這個過程中仔細觀察面部輪廓是否有異常模糊,。
張孝榮表示，要像防范電信詐騙一樣防范AI詐騙,，尤其注意不要輕信各類APP傳來的視頻,、電話或短信，建立財務信息防火墻,。
除了個人注意甄別和信息保護外,，還應通過立法手段給AI技術應用套上法律韁繩。目前,，我國已經出臺了《網絡安全法》《互聯(lián)網信息服務算法推薦管理規(guī)定》《互聯(lián)網信息服務深度合成管理規(guī)定》《生成式人工智能服務管理暫行辦法》等相關法律法規(guī),。國家網信辦起草的《人工智能生成合成內容標識辦法（征求意見稿）》目前已完成社會意見征集，該辦法出臺后,，將進一步加強對AI生成技術的約束和規(guī)范,，督促服務提供者和網絡平臺承擔起應有的法律責任,。
王鵬表示，面對每天產出的大量視頻,，監(jiān)管的難度相對較大,，因此要從軟件的研發(fā)和應用以及信息發(fā)布平臺的監(jiān)管方面入手，規(guī)范AI技術的使用,。用戶使用換臉服務需要充值,，不同的充值費用獲得的技術權限不一樣。平臺應該通過后臺辨別用戶換臉的目的,、在何種場景下使用等,，軟件服務方或制作方也需要承擔相應的監(jiān)管責任?！氨热缬脩粼谥辈ж浿袚Q臉明星或公眾人物,，那一定涉及侵權?！?span style="text-wrap-mode: wrap;">王鵬舉例說,。
