中國(guó)消費(fèi)者報(bào)報(bào)道（記者王小月）從ChatGPT火爆全網(wǎng),，到“AI換臉”新騙局全國(guó)頻發(fā)，生成式人工智能再次受到了市場(chǎng)廣泛關(guān)注,。近日，微博上“AI詐騙正在全國(guó)爆發(fā)”沖上微博熱搜,。據(jù)“平安包頭”微信公眾號(hào)消息,，內(nèi)蒙古自治區(qū)包頭市公安局電信網(wǎng)絡(luò)犯罪偵查局發(fā)布一起使用智能AI技術(shù)進(jìn)行電信詐騙的案件，福州市某科技公司法人代表郭先生10分鐘內(nèi)被騙430萬(wàn)元,。
4月20日中午,，郭先生的好友突然通過(guò)微信視頻聯(lián)系他，自己的朋友在外地競(jìng)標(biāo),，需要430萬(wàn)保證金,，且需要公對(duì)公賬戶過(guò)賬，想要借郭先生公司的賬戶走賬,?；趯?duì)好友的信任,，加上已經(jīng)視頻聊天核實(shí)了身份，郭先生沒(méi)有核實(shí)錢款是否到賬,，就分兩筆把430萬(wàn)轉(zhuǎn)到了好友朋友的銀行卡上,。郭先生撥打好友電話，才知道被騙,。騙子通過(guò)智能AI換臉和擬聲技術(shù),，佯裝好友對(duì)他實(shí)施了詐騙。
“張嘴,、搖頭,，攝像頭捕捉到人的動(dòng)作后，屏幕上原本靜態(tài)的人像可以動(dòng)起來(lái),，動(dòng)作幅度和真人一致,，還能眨眼和露齒微笑,，仿真度頗高,，幾分鐘內(nèi)就能生成一段視頻，臉還能被任意替換,?！边@就是“AI換臉”技術(shù)，成為不少黑產(chǎn)分子新型詐騙的工具,。
記者了解到,，不法分子利用“AI換聲”“AI換臉”技術(shù)，偽裝成特定人物,，實(shí)時(shí)與他人進(jìn)行視頻通話,。更換后的面部表情自然，以假亂真,，能夠冒充他人身份聯(lián)系被害人,，博取被害人信任后實(shí)施詐騙。
據(jù)了解,，“AI換臉”背后采用的是深度合成技術(shù),，利用深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等生成合成類算法,，制作圖像,、音頻、視頻等信息,，目前在社交,、影視、廣告,、醫(yī)療等諸多領(lǐng)域不斷深化應(yīng)用,，有較大的技術(shù)價(jià)值和商用潛力,，不過(guò)也存在著一定的安全隱患，“雙刃劍”效應(yīng)明顯,。
對(duì)此,，全聯(lián)并購(gòu)公會(huì)信用管理委員會(huì)專家安光勇對(duì)《中國(guó)消費(fèi)者報(bào)》記者表示，目前AI換臉技術(shù)主要通過(guò)深度學(xué)習(xí)和計(jì)算機(jī)視覺(jué)技術(shù)實(shí)現(xiàn),。它使用了深度神經(jīng)網(wǎng)絡(luò)來(lái)分析和識(shí)別視頻中的人臉,，并將一個(gè)人的臉部特征映射到另一個(gè)人的臉上。在微信視頻中,，犯罪分子可能會(huì)通過(guò)發(fā)送特制的視頻或使用特定的換臉應(yīng)用程序,，將自己的臉替換為受害者的臉，以獲取對(duì)方的信任并實(shí)施詐騙行為,。
那么,，“AI換臉”成熟度如何，是否達(dá)到以假亂真的程度,？
安光勇表示,，換臉技術(shù)的成熟度隨著時(shí)間的推移在不斷提高，但是否已經(jīng)完全以假亂真還存在一定的限制,。盡管現(xiàn)代換臉技術(shù)在某些情況下可以產(chǎn)生逼真的結(jié)果,，但仍然存在一些瑕疵，比如細(xì)節(jié)不完美或者在某些情況下可能顯得不自然,。
長(zhǎng)沙市反電詐中心提醒,，涉及資金轉(zhuǎn)賬時(shí)，市民要提高安全意識(shí),，通過(guò)多種方式確認(rèn)對(duì)方是否為本人,，也可將轉(zhuǎn)賬到賬時(shí)間設(shè)定為 “24小時(shí)到賬”，以預(yù)留處理時(shí)間,。針對(duì)支付軟件以及網(wǎng)銀軟件,，要使用多種登錄及轉(zhuǎn)賬驗(yàn)證方式。
針對(duì)花樣翻新的智能AI詐騙,，公眾要提高防范意識(shí),，應(yīng)謹(jǐn)慎使用各類“AI換臉”“AI變聲”軟件，加強(qiáng)個(gè)人信息保護(hù)意識(shí),，避免注冊(cè)不需要的賬號(hào),、填寫不必要的個(gè)人信息，以防個(gè)人信息泄露,。面對(duì)不斷更新的網(wǎng)絡(luò)技術(shù)和詐騙方式,，要堅(jiān)持不輕信、不透露、不點(diǎn)擊,、不轉(zhuǎn)賬,。
官方微信公眾號(hào)
官方微博
