中國消費者報報道（記者王小月）從ChatGPT火爆全網(wǎng),，到“AI換臉”新騙局全國頻發(fā)，生成式人工智能再次受到了市場廣泛關(guān)注,。近日,，微博上“AI詐騙正在全國爆發(fā)”沖上微博熱搜,。據(jù)“平安包頭”微信公眾號消息，內(nèi)蒙古自治區(qū)包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局發(fā)布一起使用智能AI技術(shù)進行電信詐騙的案件,，福州市某科技公司法人代表郭先生10分鐘內(nèi)被騙430萬元,。
4月20日中午，郭先生的好友突然通過微信視頻聯(lián)系他,，自己的朋友在外地競標,，需要430萬保證金，且需要公對公賬戶過賬,，想要借郭先生公司的賬戶走賬,。基于對好友的信任,，加上已經(jīng)視頻聊天核實了身份,，郭先生沒有核實錢款是否到賬，就分兩筆把430萬轉(zhuǎn)到了好友朋友的銀行卡上。郭先生撥打好友電話,，才知道被騙,。騙子通過智能AI換臉和擬聲技術(shù)，佯裝好友對他實施了詐騙,。
“張嘴、搖頭,，攝像頭捕捉到人的動作后,，屏幕上原本靜態(tài)的人像可以動起來，動作幅度和真人一致,，還能眨眼和露齒微笑,，仿真度頗高，幾分鐘內(nèi)就能生成一段視頻,，臉還能被任意替換,。”這就是“AI換臉”技術(shù),，成為不少黑產(chǎn)分子新型詐騙的工具,。
記者了解到，不法分子利用“AI換聲”“AI換臉”技術(shù),，偽裝成特定人物,，實時與他人進行視頻通話。更換后的面部表情自然,，以假亂真,，能夠冒充他人身份聯(lián)系被害人，博取被害人信任后實施詐騙,。
據(jù)了解,，“AI換臉”背后采用的是深度合成技術(shù)，利用深度學(xué)習(xí),、虛擬現(xiàn)實等生成合成類算法,，制作圖像、音頻,、視頻等信息,，目前在社交、影視,、廣告,、醫(yī)療等諸多領(lǐng)域不斷深化應(yīng)用，有較大的技術(shù)價值和商用潛力,，不過也存在著一定的安全隱患,，“雙刃劍”效應(yīng)明顯。
對此，全聯(lián)并購公會信用管理委員會專家安光勇對《中國消費者報》記者表示,，目前AI換臉技術(shù)主要通過深度學(xué)習(xí)和計算機視覺技術(shù)實現(xiàn),。它使用了深度神經(jīng)網(wǎng)絡(luò)來分析和識別視頻中的人臉，并將一個人的臉部特征映射到另一個人的臉上,。在微信視頻中,，犯罪分子可能會通過發(fā)送特制的視頻或使用特定的換臉應(yīng)用程序，將自己的臉替換為受害者的臉,，以獲取對方的信任并實施詐騙行為,。
那么，“AI換臉”成熟度如何,，是否達到以假亂真的程度,？
安光勇表示，換臉技術(shù)的成熟度隨著時間的推移在不斷提高,，但是否已經(jīng)完全以假亂真還存在一定的限制,。盡管現(xiàn)代換臉技術(shù)在某些情況下可以產(chǎn)生逼真的結(jié)果，但仍然存在一些瑕疵,，比如細節(jié)不完美或者在某些情況下可能顯得不自然,。
長沙市反電詐中心提醒，涉及資金轉(zhuǎn)賬時,，市民要提高安全意識,，通過多種方式確認對方是否為本人，也可將轉(zhuǎn)賬到賬時間設(shè)定為 “24小時到賬”,，以預(yù)留處理時間,。針對支付軟件以及網(wǎng)銀軟件，要使用多種登錄及轉(zhuǎn)賬驗證方式,。
針對花樣翻新的智能AI詐騙,，公眾要提高防范意識，應(yīng)謹慎使用各類“AI換臉”“AI變聲”軟件,，加強個人信息保護意識,，避免注冊不需要的賬號、填寫不必要的個人信息,，以防個人信息泄露,。面對不斷更新的網(wǎng)絡(luò)技術(shù)和詐騙方式，要堅持不輕信,、不透露,、不點擊、不轉(zhuǎn)賬,。
官方微信公眾號
官方微博
