中國消費(fèi)者報報道（記者 司宇萌）以0.1秒的速度識別交易風(fēng)險，同時啟動語音電話,、圖文互動等多種方式對用戶進(jìn)行自動化勸阻和風(fēng)險提示……《中國消費(fèi)者報》記者盤點(diǎn)發(fā)現(xiàn),，類似這樣讓AI智能機(jī)器人與消費(fèi)套路或風(fēng)險“死磕”的方式,，已經(jīng)成為很多供給主體從不同維度履行消費(fèi)者權(quán)益保護(hù)責(zé)任的“標(biāo)配”,。
2023年，大模型智能涌現(xiàn),，給企業(yè)的消保工作帶來了新的挑戰(zhàn),。同時，從單點(diǎn)實踐向多元應(yīng)用,、從公眾通用場景向特定行業(yè)領(lǐng)域不斷深入的人工智能,，能否成為產(chǎn)品與流程變革的新工具、新手段,，擔(dān)當(dāng)起數(shù)字時代維護(hù)數(shù)據(jù)安全,、有效保護(hù)隱私、遏制消費(fèi)詐騙等消費(fèi)者權(quán)益保護(hù)的重任,，對此,，輿論的觀察與檢視始終未曾停止。
觀察：解決消保痛點(diǎn)堵點(diǎn) 智能化消保成行業(yè)趨勢
當(dāng)前,，不少不法分子利用數(shù)字化與新技術(shù),，強(qiáng)化侵害消費(fèi)者的能力，互聯(lián)網(wǎng)詐騙、個人數(shù)據(jù)安全,、虛假營銷等問題,，成為消費(fèi)者權(quán)益保護(hù)的痛點(diǎn)和堵點(diǎn)問題。
如何守住消費(fèi)者合法權(quán)益的“基本盤”,？調(diào)查發(fā)現(xiàn),，依托AI等科技手段，通過智能風(fēng)控系統(tǒng)判定和干預(yù)用戶交易過程中存在的風(fēng)險,，已成為業(yè)內(nèi)經(jīng)營主體普遍采取的手段,。
1月22日，螞蟻集團(tuán)官網(wǎng)發(fā)布的《2023年消費(fèi)者權(quán)益保護(hù)年報》顯示,，發(fā)揮安全科技能力,，秒級識別交易風(fēng)險，覆蓋反騙反賭,、資金安全、數(shù)據(jù)安全,、內(nèi)容安全等10大場景,。2023年，螞蟻集團(tuán)協(xié)助公安機(jī)關(guān)保護(hù)了23億資金,、43萬人次,，助力返還700余萬元。
據(jù)螞蟻集團(tuán)大安全技術(shù)團(tuán)隊介紹,，與通常只能被動回應(yīng)客戶問題的客服機(jī)器人相比,，被賦予更多消費(fèi)者權(quán)益保護(hù)角色的機(jī)器人普遍更善于主動搜索和出擊。比如,，在“殺豬盤”詐騙案中,，嫌疑人通常會偽裝成“甜蜜戀人”，但通過“智能化消保官”的學(xué)習(xí)和識別,，這種把戲很快就能被拆穿,。一次轉(zhuǎn)賬如果被精準(zhǔn)確認(rèn)不是女生給男友的大紅包，而是殺豬盤的詐騙案交易,，“智能化消保官”就會迅速啟動包括AI反詐叫醒服務(wù)在內(nèi)的各種干預(yù)手段,，通過主動致電、智能問卷等方式預(yù)警勸阻潛在被騙用戶,，直至風(fēng)險被有效化解,。
近年來，默認(rèn)自動關(guān)注公眾號和小程序,、默認(rèn)自動續(xù)費(fèi),、頁面規(guī)則不清晰、營銷虛假宣傳等問題給消費(fèi)者帶來了許多困擾。針對這些問題,，螞蟻集團(tuán)自主研發(fā)智能巡檢系統(tǒng)“消保盾”,，依照內(nèi)控規(guī)則，對產(chǎn)品頁面進(jìn)行全天候不間斷問題巡檢,、預(yù)警,、評估，及時發(fā)現(xiàn)問題并跟進(jìn)處理,，實現(xiàn)業(yè)務(wù)場景的事前,、事中、事后全流程消保風(fēng)險管控,，更大程度上預(yù)防和及時發(fā)現(xiàn)可能侵害消費(fèi)者權(quán)益的相關(guān)風(fēng)險,。2023年，“消保盾”覆蓋了更多的業(yè)務(wù)場景,，更高效全面地保護(hù)了消費(fèi)者權(quán)益,。
解碼：應(yīng)對消保形勢變化 企業(yè)用技術(shù)對抗技術(shù)
數(shù)字經(jīng)濟(jì)飛速發(fā)展，AI新技術(shù),、新場景,、新商業(yè)模式層出不窮，在為消費(fèi)者提供便利的同時,，也給消費(fèi)者權(quán)益保護(hù)工作帶來了一定挑戰(zhàn),。那么，企業(yè)該如何應(yīng)對這一挑戰(zhàn),？調(diào)查發(fā)現(xiàn),，許多企業(yè)通過技術(shù)創(chuàng)新來應(yīng)對和解決新技術(shù)帶來的挑戰(zhàn)。
當(dāng)前大模型智能涌現(xiàn),，同時也帶來了許多問題,，發(fā)展安全可信的人工智能成為行業(yè)共識。中國科學(xué)院院士何積豐認(rèn)為,，可信的人工智能要致力于保障數(shù)據(jù)安全可信,、系統(tǒng)行為可追責(zé)、算法模型可解釋,、網(wǎng)絡(luò)環(huán)境可信,、法律倫理可信等方面。
為建設(shè)負(fù)責(zé)任的AI,，2023年螞蟻集團(tuán)聯(lián)合清華大學(xué)發(fā)布AI安全檢測平臺“蟻鑒2.0”,，實現(xiàn)了用生成式能力檢測生成式模型。檢測標(biāo)準(zhǔn)覆蓋內(nèi)容安全,、數(shù)據(jù)安全,、倫理安全等3大類數(shù)百種風(fēng)險,，可對大模型生成式內(nèi)容完成包含個人隱私、意識形態(tài),、違法犯罪,、偏見與歧視等數(shù)百個維度的風(fēng)險對抗檢測，并生成檢測報告,，幫助大模型更加有針對性地持續(xù)優(yōu)化,。
“蟻鑒2.0”實現(xiàn)用生成式能力檢測生成式模型。資料圖片
新技術(shù)的發(fā)展也給消費(fèi)者隱私保護(hù)帶來了很大挑戰(zhàn),。有別于其他風(fēng)險,，隱私風(fēng)險的治理對象是數(shù)據(jù)，其呈現(xiàn)出使用高頻率,、可復(fù)制,、易擴(kuò)散、處理鏈條長,、應(yīng)用場景廣泛等特點(diǎn),，僅靠專家經(jīng)驗做事前風(fēng)險評審、事后風(fēng)險處置的傳統(tǒng)模式無法全面,、準(zhǔn)確,、有效地發(fā)現(xiàn)和處理問題。數(shù)據(jù)的固有特征,，決定了必須要用技術(shù)的方式解決風(fēng)險問題，才能對風(fēng)險看清,、看全,、看住，才能向用戶提供便捷和易獲取的隱私保護(hù)服務(wù),。
為解決上述問題,，《螞蟻集團(tuán)2023年消費(fèi)者權(quán)益保護(hù)年報》顯示，其建立了技術(shù)驅(qū)動的i-ABC隱私工程體系,，從事前,、事后、盡責(zé)3個方面提供支撐,。事前管控“看住,、可調(diào)節(jié)”，確保上線的產(chǎn)品都經(jīng)過了隱私影響評估后才對用戶開放,；事后監(jiān)測“看清,、可監(jiān)測”，具備隱私數(shù)據(jù)全生命周期風(fēng)險洞察能力,，做到隱私風(fēng)險心中有數(shù),；盡責(zé)證明“看全,、可自證”，個人信息數(shù)據(jù)在企業(yè)業(yè)務(wù)流程中的流動記錄完整可還原,，透明可控,。
螞蟻集團(tuán)構(gòu)建了隱私數(shù)字化管理體系。資料圖片
小程序智能巡檢是i-ABC隱私工程體系中的一環(huán),。據(jù)悉,，目前支付寶上商家和機(jī)構(gòu)小程序數(shù)量近400萬個。面對數(shù)量龐大的小程序,，支付寶上線運(yùn)行小程序智能巡檢,，通過機(jī)器智能巡檢小程序信息授權(quán)情況，并對發(fā)現(xiàn)的問題進(jìn)行評估和治理,。依照已經(jīng)配置好的規(guī)則,，智能巡檢可以實現(xiàn)自動治理，包括減少曝光,、隱藏下架的處罰等方面,，不需要人工操作。
當(dāng)前,，智能化方式管控隱私風(fēng)險已成為行業(yè)趨勢,。為了做好產(chǎn)品在投入使用前的個人信息保護(hù)合規(guī) “質(zhì)檢”，騰訊自主研發(fā)了包括靈犀隱私平臺在內(nèi)的大量技術(shù)檢測工具和檢測平臺,，為產(chǎn)品做好合規(guī)檢測,。
數(shù)字平臺的快速發(fā)展，已經(jīng)讓業(yè)態(tài)變得越來越多元化和復(fù)雜化,，而企業(yè)通過技術(shù)創(chuàng)新研發(fā)的智能工具的助力與更頻繁的人機(jī)互動,，顯然有助于消費(fèi)者權(quán)益保護(hù)的質(zhì)效提升，這已經(jīng)是被行業(yè)內(nèi)外普遍認(rèn)可的趨勢,。
浙江大學(xué)經(jīng)濟(jì)學(xué)院副教授,、博士生導(dǎo)師章華則建議，未來,，企業(yè)應(yīng)該圍繞ESG目標(biāo),，持續(xù)提升應(yīng)對消保形勢變化的科技能力，不斷增強(qiáng)企業(yè)的社會責(zé)任感和消費(fèi)者的獲得感,，推動消保工作與時俱進(jìn),。
展望：消保需要協(xié)力共建 企業(yè)開放技術(shù)能力
在業(yè)內(nèi)人士看來，消保形勢不斷變化,，消費(fèi)者權(quán)益保護(hù)是一個長期的,、系統(tǒng)的工程，還需要與行業(yè)內(nèi)的其他企業(yè)和機(jī)構(gòu)開放合作,、協(xié)同共建,。
近年來,，不少企業(yè)和機(jī)構(gòu)通過聯(lián)合其他機(jī)構(gòu)開展形式多樣的消保活動,，共同保護(hù)好消費(fèi)者權(quán)益,。
全社會消保水平的提高離不開行業(yè)整體技術(shù)的進(jìn)步。以助力“全鏈條反詐,、全行業(yè)阻詐,、全社會防詐”為目標(biāo)，螞蟻集團(tuán)探索建立科技反詐開放技術(shù)平臺,，面向全行業(yè)提供“螞蟻智能反詐系統(tǒng)”的核心技術(shù)能力及產(chǎn)品,，首批已開放18件反詐關(guān)鍵專利和專利申請、5套反詐技術(shù)產(chǎn)品和解決方案,。首批開放的專利和技術(shù),，包含了“叫醒熱線”“延時到賬”“電詐風(fēng)險識別”“受害人預(yù)警和保護(hù)”等科技反詐核心能力，生態(tài)伙伴可以“開箱即用”,，實現(xiàn)低成本,、規(guī)模化反詐應(yīng)用,。
此外,，“蟻鑒2.0”面向全球開發(fā)者免費(fèi)提供AIGC安全性、AI可解釋性,、AI魯棒性3項檢測工具,，可服務(wù)于數(shù)字金融、教育,、文化,、醫(yī)療、電商等領(lǐng)域的大規(guī)模復(fù)雜業(yè)務(wù)場景,。
螞蟻集團(tuán)在《2023年消費(fèi)者權(quán)益保護(hù)年報》中表示,，2023年其面向行業(yè)開放技術(shù)能力,，希望推動相關(guān)技術(shù)取得更大發(fā)展,。未來，會持續(xù)加大科研投入,，攻堅前沿和底層數(shù)字科技,，共促科技的共享與發(fā)展。
如何讓新技術(shù),、新工具深度融合消費(fèi)者權(quán)益保護(hù)的更多業(yè)務(wù)場景,，實現(xiàn)人機(jī)快速聯(lián)動，高效化解風(fēng)險,，包括螞蟻,、騰訊等在內(nèi)的數(shù)字平臺們已經(jīng)做出了探索和實踐,。未來，數(shù)字平臺商家愈發(fā)活躍靈動的經(jīng)營能力,，也持續(xù)提醒著企業(yè)不能放慢腳下的每一步,。
官方微信公眾號
官方微博
