国产不卡在线观看在线_在线精自偷自拍无码成人网站_国产精品精华液网站_人人97人人超碰人人爽喊_一本一本久久a久久综合_日本A级乱子色网视频_午夜.DJ高清在线观看免费7_免费黄色软件下载_亚洲国产成人精品无码区99_免费理伦电影,国产精品人妻一区夜夜爱,日本e片色满视频在线观看,在线观看亚洲精品福利片

中國(guó)消費(fèi)者報(bào)報(bào)道（記者王小月）如今，AI換臉圖片和視頻成為熱門現(xiàn)象,，換臉視頻碰瓷他人的現(xiàn)象也屢屢引發(fā)關(guān)注。AI換臉的背后,，從傳播到制作到后端各個(gè)環(huán)節(jié)幾乎都藏有一門生意經(jīng)，也存在相關(guān)風(fēng)險(xiǎn)與困擾,?！吨袊?guó)消費(fèi)者報(bào)》記者就此進(jìn)行了調(diào)查。

名人“被帶貨”屢禁不止

人們常說眼見為實(shí),，但虛擬世界里的“眼見”卻不一定“為實(shí)”。前段時(shí)間,，“張文宏醫(yī)生帶貨蛋白棒”的消息讓不少人信以為真,，部分商家通過AI換臉、合成人聲等技術(shù)手段,，將張文宏的面容與聲音移花接木用于直播帶貨,，引得當(dāng)事人不得不出面辟謠和譴責(zé)。

面對(duì)這些明目張膽的侵權(quán)行為,，張文宏在接受媒體采訪時(shí)表示：“類似的賣貨賬號(hào)不止一個(gè)且一直在變,，我多次向平臺(tái)投訴，但這種現(xiàn)象屢禁不絕,。很多不明真相的消費(fèi)者,，特別是對(duì)于AI技術(shù)不是很熟悉、年紀(jì)較大的消費(fèi)者很容易相信,?！?/p>

無獨(dú)有偶，北京大學(xué)國(guó)家發(fā)展研究院教授李玲去年9月發(fā)表聲明稱,，“網(wǎng)上大量假冒本人推銷醫(yī)藥書籍和治療手段的虛假視頻,，大多由人工智能AI合成，已經(jīng)報(bào)警,?！辈贿^，記者調(diào)查發(fā)現(xiàn),，網(wǎng)上仍有以李玲名義推薦書籍的短視頻,，聲音與本人別無二致，短視頻詳細(xì)介紹了某一書籍,，購(gòu)物車的同款書籍顯示已售9.7萬(wàn),，短視頻中還配有文字“關(guān)鍵時(shí)刻能救命”。

AI作為一種新技術(shù),，面世以來即被應(yīng)用到多個(gè)領(lǐng)域,，但也出現(xiàn)了不少利用AI進(jìn)行違法犯罪的案例,，包括仿冒名人、造謠,、換臉詐騙,、竊取隱私等。近期,，微信平臺(tái)發(fā)布消息稱,，針對(duì)“利用AI技術(shù)仿冒名人進(jìn)行不當(dāng)營(yíng)銷”的情況進(jìn)行了打擊，關(guān)閉賬號(hào)209個(gè),。

AI換臉背后的生意經(jīng)

在網(wǎng)上,，AI換臉的門檻很低。記者在“泡咖AI”APP上看到,，AI換臉功能包括照片換臉,、視頻換臉，VIP換臉套餐7天會(huì)員價(jià)59元,、月度VIP99元,、年度VIP499元。產(chǎn)品頁(yè)面介紹顯示,，圖片換臉“一張照片,，輕松合成照片寫真”、視頻換臉“一鍵替換視頻中的人臉”,。在MJ繪畫官網(wǎng),，視頻換臉只需上傳視頻和人臉圖片，AI會(huì)把上傳的人臉照片替換到視頻中,。為了免責(zé),，不少網(wǎng)站都在下方用小字標(biāo)注“生成視頻僅供學(xué)習(xí)娛樂，合成視頻不得用于非法用途,，違者個(gè)人承擔(dān)全部責(zé)任”,。

記者發(fā)現(xiàn)，不少換臉軟件都需要付費(fèi)使用,。在二手交易平臺(tái)上,，也有人以幾元的價(jià)格售賣AI換臉、人聲克隆等免費(fèi)開源文件的安裝包,，并附有相關(guān)教程,，付款后通過網(wǎng)盤發(fā)送。

為了規(guī)避平臺(tái)的關(guān)鍵詞識(shí)別,，記者在二手交易平臺(tái)搜索“AI換lian”后,，看到有多個(gè)賣家，一鍵換臉售價(jià)均為1元左右。名為“全網(wǎng)項(xiàng)目工具箱”的商家魚小鋪在詳情頁(yè)面介紹稱,，“只需一張照片就可以替換,，簡(jiǎn)單操作”“任何視頻和照片都可以替換，滿足一切換臉需求”,，單次換臉僅需1.5元,，10元就能購(gòu)買年卡。

“早期的換臉軟件一般是通過使用機(jī)器學(xué)習(xí)模型,，將圖片或視頻合并疊加到源圖片或視頻上,，借助神經(jīng)網(wǎng)絡(luò)技術(shù)進(jìn)行大樣本學(xué)習(xí)，并與聲音,、表情和動(dòng)作合成,。當(dāng)前的AI換臉屬于深度偽造的AI技術(shù)的衍生應(yīng)用。”深度科技研究院院長(zhǎng)張孝榮對(duì)《中國(guó)消費(fèi)者報(bào)》記者表示,，隨著生成式人工智能的發(fā)展,，AI技術(shù)使用難度進(jìn)一步降低，不少新興APP和主流視頻軟件上都增加了類似功能,，普及率大大提升。如此一來,，線上的“李鬼”日益增多,，且愈發(fā)難辨真假。

北京社科院副研究員王鵬對(duì)記者表示,，簡(jiǎn)單的AI換臉技術(shù)難度并不高,，具有一定技術(shù)水平的團(tuán)隊(duì)和小公司依托開源軟件就可以實(shí)現(xiàn)基礎(chǔ)性的AI換臉。而一些精細(xì)化,、與微表情密切相關(guān)的換臉,，則需要具有一定的算力需求。因此,，在直播中使用AI換臉軟件的成本并不高,，這也導(dǎo)致在社交媒體上、直播中出現(xiàn)了很多欺詐行為,，侵犯了消費(fèi)者的合法權(quán)益,。

應(yīng)多渠道進(jìn)行規(guī)范

近年來，各地出現(xiàn)了不少利用AI技術(shù)直接參與犯罪的案例,，犯罪分子利用AI換臉,、換聲，冒充他人進(jìn)行詐騙,，也有人利用AI竊取他人隱私,。奇安信集團(tuán)發(fā)布的《2024年人工智能安全報(bào)告》顯示，基于AI的深度偽造欺詐在2023年激增30倍。那么,，消費(fèi)者該如何識(shí)別換臉破綻并加以防范,？

中國(guó)網(wǎng)絡(luò)空間安全協(xié)會(huì)人工智能安全治理專業(yè)委員會(huì)委員張博表示，AI換臉技術(shù)如今已經(jīng)比較成熟,，甚至能夠?qū)崿F(xiàn)視頻通話的實(shí)時(shí)換臉,，雖然單憑肉眼很難分辨，不過只要稍加留心,，AI換臉還是有明顯破綻的,，漏洞就在面部輪廓和光線上。

“視頻通話時(shí),，要仔細(xì)觀察對(duì)方的面部輪廓是否存在異常模糊情況,、光線是否正常?！睆埐┱f,，必要時(shí)可以要求對(duì)方快速大幅度地抬頭、點(diǎn)頭,、轉(zhuǎn)頭,，然后在這個(gè)過程中仔細(xì)觀察面部輪廓是否有異常模糊。

張孝榮表示,，要像防范電信詐騙一樣防范AI詐騙,，尤其注意不要輕信各類APP傳來的視頻、電話或短信,，建立財(cái)務(wù)信息防火墻,。

除了個(gè)人注意甄別和信息保護(hù)外，還應(yīng)通過立法手段給AI技術(shù)應(yīng)用套上法律韁繩,。目前,，我國(guó)已經(jīng)出臺(tái)了《網(wǎng)絡(luò)安全法》《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》等相關(guān)法律法規(guī)。國(guó)家網(wǎng)信辦起草的《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法（征求意見稿）》目前已完成社會(huì)意見征集,，該辦法出臺(tái)后,，將進(jìn)一步加強(qiáng)對(duì)AI生成技術(shù)的約束和規(guī)范，督促服務(wù)提供者和網(wǎng)絡(luò)平臺(tái)承擔(dān)起應(yīng)有的法律責(zé)任,。

王鵬表示,，面對(duì)每天產(chǎn)出的大量視頻，監(jiān)管的難度相對(duì)較大,，因此要從軟件的研發(fā)和應(yīng)用以及信息發(fā)布平臺(tái)的監(jiān)管方面入手,，規(guī)范AI技術(shù)的使用。用戶使用換臉服務(wù)需要充值,，不同的充值費(fèi)用獲得的技術(shù)權(quán)限不一樣,。平臺(tái)應(yīng)該通過后臺(tái)辨別用戶換臉的目的,、在何種場(chǎng)景下使用等，軟件服務(wù)方或制作方也需要承擔(dān)相應(yīng)的監(jiān)管責(zé)任,?！氨热缬脩粼谥辈ж浿袚Q臉明星或公眾人物，那一定涉及侵權(quán),?！?span style="text-wrap-mode: wrap;">王鵬舉例說。