借助AI技術(shù)魔改文案和視頻資料，偽造虛假公眾人物形象,、虛構(gòu)“精英人設(shè)”,，在短視頻平臺推銷保健品,，近一段時間以來，這股AI魔改之風在網(wǎng)絡平臺甚囂塵上,。從“老板娘楊麗華”到冒用張文宏等名人形象,，屢禁不止的AI造假視頻不僅挑戰(zhàn)了消費者的辨別能力，更暴露出技術(shù)濫用下的監(jiān)管漏洞,。應該說,，AI技術(shù)在短視頻領(lǐng)域的營銷應用亂象，是流量經(jīng)濟下借助公眾健康焦慮的一次“合謀”,，亟待法律,、技術(shù)與社會的系統(tǒng)性治理。（據(jù)2月11日《中國消費者報》報道）
虛構(gòu)人設(shè)與AI技術(shù)結(jié)合,，打造“信任背書”,，是AI魔改視頻的顯著特點。商家通過AI技術(shù)生成虛假人物形象并盜用公眾人物肖像,，利用其社會影響力誘導消費者,，同時還常用夸大功效與擦邊宣傳。
AI魔改短視頻營銷中,，眾多賬號與店鋪多為個體工商戶注冊,，并且有頻繁更換名稱躲避監(jiān)管嫌疑。同一產(chǎn)品鏈接跳轉(zhuǎn)至不同網(wǎng)店,，經(jīng)營主體多為注冊時間短,、資質(zhì)存疑的小微企業(yè)。加之AI技術(shù)極大降低虛假視頻制作成本,，讓批量生產(chǎn),、快速傳播、收割變現(xiàn)、注銷換殼的欺詐營銷閉環(huán)快速形成,。
虛假宣傳導致消費者誤購高價低效產(chǎn)品,，甚至延誤正規(guī)治療。虛構(gòu)人設(shè)營銷擾亂保健品行業(yè)競爭生態(tài),，網(wǎng)絡平臺若放任此類行為,，將削弱消費者信任，最終損害自身商業(yè)信譽,。同時,，AI技術(shù)被濫用于造假，消解了“眼見為實”的認知基礎(chǔ),，一些公眾人物遭AI換臉帶貨,，不僅侵犯公共人物肖像權(quán)，更可能引發(fā)社會對權(quán)威信息的普遍懷疑,。
《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》明確AI生成內(nèi)容應當進行明確標識并由相關(guān)方承擔侵權(quán)責任,。網(wǎng)絡平臺應當加強審查制度，落實主體責任,，對未標注的AI視頻強制下架,，強化平臺管理約束機制。針對保健品宣傳,，嚴格執(zhí)行《廣告法》《食品安全法》等法律法規(guī),，嚴懲虛假療效宣傳行為，并將屢犯者納入失信名單,，發(fā)揮信用懲戒作用,。
道高一尺，魔高一丈,。首先,，短視頻平臺可以利用AI識別技術(shù)篩查虛假人設(shè)賬號，對利用境外虛擬人設(shè),、虛假精英形象的賬號采取封禁與粉絲清零等措施,。其次，建立溯源機制,，對頻繁更換主體的店鋪實施流量限制,，并公開違規(guī)案例以警示教育廣大消費者。同時,，針對易受騙的老年群體,，開展反詐宣傳，揭露所謂“養(yǎng)生大師”話術(shù)陷阱,。社會應當關(guān)注老年人消費動態(tài),，有關(guān)機構(gòu)要及時介入異常購物行為,，阻斷欺詐鏈條。
AI技術(shù)為社會消費帶來極大便利,，與此同時,，應用場景中帶來的違法違規(guī)現(xiàn)象也不可忽視。治理虛假人設(shè)營銷,，既需法律震懾與技術(shù)攔截,，也依賴平臺自律與社會監(jiān)督。積極構(gòu)建源頭審核,、過程監(jiān)控,、事后追責的全鏈條社會監(jiān)督機制,，才能遏制技術(shù)濫用,，營造健康放心的消費環(huán)境。（徐文智）
官方微信公眾號
官方微博
