中國(guó)消費(fèi)者報(bào)報(bào)道（記者 司宇萌）以0.1秒的速度識(shí)別交易風(fēng)險(xiǎn),，同時(shí)啟動(dòng)語(yǔ)音電話,、圖文互動(dòng)等多種方式對(duì)用戶進(jìn)行自動(dòng)化勸阻和風(fēng)險(xiǎn)提示……《中國(guó)消費(fèi)者報(bào)》記者盤點(diǎn)發(fā)現(xiàn),，類似這樣讓AI智能機(jī)器人與消費(fèi)套路或風(fēng)險(xiǎn)“死磕”的方式，已經(jīng)成為很多供給主體從不同維度履行消費(fèi)者權(quán)益保護(hù)責(zé)任的“標(biāo)配”,。
2023年,，大模型智能涌現(xiàn)，給企業(yè)的消保工作帶來(lái)了新的挑戰(zhàn),。同時(shí),，從單點(diǎn)實(shí)踐向多元應(yīng)用、從公眾通用場(chǎng)景向特定行業(yè)領(lǐng)域不斷深入的人工智能,，能否成為產(chǎn)品與流程變革的新工具,、新手段，擔(dān)當(dāng)起數(shù)字時(shí)代維護(hù)數(shù)據(jù)安全,、有效保護(hù)隱私,、遏制消費(fèi)詐騙等消費(fèi)者權(quán)益保護(hù)的重任，對(duì)此,，輿論的觀察與檢視始終未曾停止,。
觀察：解決消保痛點(diǎn)堵點(diǎn) 智能化消保成行業(yè)趨勢(shì)
當(dāng)前，不少不法分子利用數(shù)字化與新技術(shù),，強(qiáng)化侵害消費(fèi)者的能力,，互聯(lián)網(wǎng)詐騙、個(gè)人數(shù)據(jù)安全,、虛假營(yíng)銷等問(wèn)題,，成為消費(fèi)者權(quán)益保護(hù)的痛點(diǎn)和堵點(diǎn)問(wèn)題。
如何守住消費(fèi)者合法權(quán)益的“基本盤”,？調(diào)查發(fā)現(xiàn),，依托AI等科技手段，通過(guò)智能風(fēng)控系統(tǒng)判定和干預(yù)用戶交易過(guò)程中存在的風(fēng)險(xiǎn),，已成為業(yè)內(nèi)經(jīng)營(yíng)主體普遍采取的手段。
1月22日,，螞蟻集團(tuán)官網(wǎng)發(fā)布的《2023年消費(fèi)者權(quán)益保護(hù)年報(bào)》顯示,，發(fā)揮安全科技能力，秒級(jí)識(shí)別交易風(fēng)險(xiǎn),，覆蓋反騙反賭,、資金安全、數(shù)據(jù)安全,、內(nèi)容安全等10大場(chǎng)景,。2023年，螞蟻集團(tuán)協(xié)助公安機(jī)關(guān)保護(hù)了23億資金、43萬(wàn)人次,，助力返還700余萬(wàn)元,。
據(jù)螞蟻集團(tuán)大安全技術(shù)團(tuán)隊(duì)介紹，與通常只能被動(dòng)回應(yīng)客戶問(wèn)題的客服機(jī)器人相比,，被賦予更多消費(fèi)者權(quán)益保護(hù)角色的機(jī)器人普遍更善于主動(dòng)搜索和出擊,。比如，在“殺豬盤”詐騙案中,，嫌疑人通常會(huì)偽裝成“甜蜜戀人”,，但通過(guò)“智能化消保官”的學(xué)習(xí)和識(shí)別，這種把戲很快就能被拆穿,。一次轉(zhuǎn)賬如果被精準(zhǔn)確認(rèn)不是女生給男友的大紅包,，而是殺豬盤的詐騙案交易，“智能化消保官”就會(huì)迅速啟動(dòng)包括AI反詐叫醒服務(wù)在內(nèi)的各種干預(yù)手段,，通過(guò)主動(dòng)致電,、智能問(wèn)卷等方式預(yù)警勸阻潛在被騙用戶，直至風(fēng)險(xiǎn)被有效化解,。
近年來(lái),，默認(rèn)自動(dòng)關(guān)注公眾號(hào)和小程序、默認(rèn)自動(dòng)續(xù)費(fèi),、頁(yè)面規(guī)則不清晰,、營(yíng)銷虛假宣傳等問(wèn)題給消費(fèi)者帶來(lái)了許多困擾。針對(duì)這些問(wèn)題,，螞蟻集團(tuán)自主研發(fā)智能巡檢系統(tǒng)“消保盾”,，依照內(nèi)控規(guī)則，對(duì)產(chǎn)品頁(yè)面進(jìn)行全天候不間斷問(wèn)題巡檢,、預(yù)警,、評(píng)估，及時(shí)發(fā)現(xiàn)問(wèn)題并跟進(jìn)處理,，實(shí)現(xiàn)業(yè)務(wù)場(chǎng)景的事前,、事中、事后全流程消保風(fēng)險(xiǎn)管控,，更大程度上預(yù)防和及時(shí)發(fā)現(xiàn)可能侵害消費(fèi)者權(quán)益的相關(guān)風(fēng)險(xiǎn),。2023年，“消保盾”覆蓋了更多的業(yè)務(wù)場(chǎng)景,，更高效全面地保護(hù)了消費(fèi)者權(quán)益,。
解碼：應(yīng)對(duì)消保形勢(shì)變化 企業(yè)用技術(shù)對(duì)抗技術(shù)
數(shù)字經(jīng)濟(jì)飛速發(fā)展，AI新技術(shù),、新場(chǎng)景,、新商業(yè)模式層出不窮,，在為消費(fèi)者提供便利的同時(shí)，也給消費(fèi)者權(quán)益保護(hù)工作帶來(lái)了一定挑戰(zhàn),。那么,，企業(yè)該如何應(yīng)對(duì)這一挑戰(zhàn)？調(diào)查發(fā)現(xiàn),，許多企業(yè)通過(guò)技術(shù)創(chuàng)新來(lái)應(yīng)對(duì)和解決新技術(shù)帶來(lái)的挑戰(zhàn),。
當(dāng)前大模型智能涌現(xiàn)，同時(shí)也帶來(lái)了許多問(wèn)題,，發(fā)展安全可信的人工智能成為行業(yè)共識(shí),。中國(guó)科學(xué)院院士何積豐認(rèn)為，可信的人工智能要致力于保障數(shù)據(jù)安全可信,、系統(tǒng)行為可追責(zé),、算法模型可解釋、網(wǎng)絡(luò)環(huán)境可信,、法律倫理可信等方面,。
為建設(shè)負(fù)責(zé)任的AI，2023年螞蟻集團(tuán)聯(lián)合清華大學(xué)發(fā)布AI安全檢測(cè)平臺(tái)“蟻鑒2.0”,，實(shí)現(xiàn)了用生成式能力檢測(cè)生成式模型,。檢測(cè)標(biāo)準(zhǔn)覆蓋內(nèi)容安全、數(shù)據(jù)安全,、倫理安全等3大類數(shù)百種風(fēng)險(xiǎn),，可對(duì)大模型生成式內(nèi)容完成包含個(gè)人隱私、意識(shí)形態(tài),、違法犯罪,、偏見(jiàn)與歧視等數(shù)百個(gè)維度的風(fēng)險(xiǎn)對(duì)抗檢測(cè)，并生成檢測(cè)報(bào)告,，幫助大模型更加有針對(duì)性地持續(xù)優(yōu)化,。
“蟻鑒2.0”實(shí)現(xiàn)用生成式能力檢測(cè)生成式模型。資料圖片
新技術(shù)的發(fā)展也給消費(fèi)者隱私保護(hù)帶來(lái)了很大挑戰(zhàn),。有別于其他風(fēng)險(xiǎn),，隱私風(fēng)險(xiǎn)的治理對(duì)象是數(shù)據(jù)，其呈現(xiàn)出使用高頻率,、可復(fù)制,、易擴(kuò)散、處理鏈條長(zhǎng),、應(yīng)用場(chǎng)景廣泛等特點(diǎn)，僅靠專家經(jīng)驗(yàn)做事前風(fēng)險(xiǎn)評(píng)審,、事后風(fēng)險(xiǎn)處置的傳統(tǒng)模式無(wú)法全面,、準(zhǔn)確、有效地發(fā)現(xiàn)和處理問(wèn)題。數(shù)據(jù)的固有特征,，決定了必須要用技術(shù)的方式解決風(fēng)險(xiǎn)問(wèn)題,，才能對(duì)風(fēng)險(xiǎn)看清、看全,、看住,，才能向用戶提供便捷和易獲取的隱私保護(hù)服務(wù)。
為解決上述問(wèn)題,，《螞蟻集團(tuán)2023年消費(fèi)者權(quán)益保護(hù)年報(bào)》顯示,，其建立了技術(shù)驅(qū)動(dòng)的i-ABC隱私工程體系，從事前,、事后,、盡責(zé)3個(gè)方面提供支撐。事前管控“看住,、可調(diào)節(jié)”,，確保上線的產(chǎn)品都經(jīng)過(guò)了隱私影響評(píng)估后才對(duì)用戶開(kāi)放；事后監(jiān)測(cè)“看清,、可監(jiān)測(cè)”,，具備隱私數(shù)據(jù)全生命周期風(fēng)險(xiǎn)洞察能力，做到隱私風(fēng)險(xiǎn)心中有數(shù),；盡責(zé)證明“看全,、可自證”，個(gè)人信息數(shù)據(jù)在企業(yè)業(yè)務(wù)流程中的流動(dòng)記錄完整可還原,，透明可控,。
螞蟻集團(tuán)構(gòu)建了隱私數(shù)字化管理體系。資料圖片
小程序智能巡檢是i-ABC隱私工程體系中的一環(huán),。據(jù)悉,，目前支付寶上商家和機(jī)構(gòu)小程序數(shù)量近400萬(wàn)個(gè)。面對(duì)數(shù)量龐大的小程序,，支付寶上線運(yùn)行小程序智能巡檢,，通過(guò)機(jī)器智能巡檢小程序信息授權(quán)情況，并對(duì)發(fā)現(xiàn)的問(wèn)題進(jìn)行評(píng)估和治理,。依照已經(jīng)配置好的規(guī)則,，智能巡檢可以實(shí)現(xiàn)自動(dòng)治理，包括減少曝光,、隱藏下架的處罰等方面,，不需要人工操作。
當(dāng)前,，智能化方式管控隱私風(fēng)險(xiǎn)已成為行業(yè)趨勢(shì),。為了做好產(chǎn)品在投入使用前的個(gè)人信息保護(hù)合規(guī) “質(zhì)檢”,，騰訊自主研發(fā)了包括靈犀隱私平臺(tái)在內(nèi)的大量技術(shù)檢測(cè)工具和檢測(cè)平臺(tái)，為產(chǎn)品做好合規(guī)檢測(cè),。
數(shù)字平臺(tái)的快速發(fā)展,，已經(jīng)讓業(yè)態(tài)變得越來(lái)越多元化和復(fù)雜化，而企業(yè)通過(guò)技術(shù)創(chuàng)新研發(fā)的智能工具的助力與更頻繁的人機(jī)互動(dòng),，顯然有助于消費(fèi)者權(quán)益保護(hù)的質(zhì)效提升,，這已經(jīng)是被行業(yè)內(nèi)外普遍認(rèn)可的趨勢(shì)。
浙江大學(xué)經(jīng)濟(jì)學(xué)院副教授,、博士生導(dǎo)師章華則建議,，未來(lái)，企業(yè)應(yīng)該圍繞ESG目標(biāo),，持續(xù)提升應(yīng)對(duì)消保形勢(shì)變化的科技能力,，不斷增強(qiáng)企業(yè)的社會(huì)責(zé)任感和消費(fèi)者的獲得感，推動(dòng)消保工作與時(shí)俱進(jìn),。
展望：消保需要協(xié)力共建 企業(yè)開(kāi)放技術(shù)能力
在業(yè)內(nèi)人士看來(lái),，消保形勢(shì)不斷變化，消費(fèi)者權(quán)益保護(hù)是一個(gè)長(zhǎng)期的,、系統(tǒng)的工程,，還需要與行業(yè)內(nèi)的其他企業(yè)和機(jī)構(gòu)開(kāi)放合作、協(xié)同共建,。
近年來(lái),，不少企業(yè)和機(jī)構(gòu)通過(guò)聯(lián)合其他機(jī)構(gòu)開(kāi)展形式多樣的消保活動(dòng),，共同保護(hù)好消費(fèi)者權(quán)益,。
全社會(huì)消保水平的提高離不開(kāi)行業(yè)整體技術(shù)的進(jìn)步。以助力“全鏈條反詐,、全行業(yè)阻詐,、全社會(huì)防詐”為目標(biāo)，螞蟻集團(tuán)探索建立科技反詐開(kāi)放技術(shù)平臺(tái),，面向全行業(yè)提供“螞蟻智能反詐系統(tǒng)”的核心技術(shù)能力及產(chǎn)品,，首批已開(kāi)放18件反詐關(guān)鍵專利和專利申請(qǐng)、5套反詐技術(shù)產(chǎn)品和解決方案,。首批開(kāi)放的專利和技術(shù),，包含了“叫醒熱線”“延時(shí)到賬”“電詐風(fēng)險(xiǎn)識(shí)別”“受害人預(yù)警和保護(hù)”等科技反詐核心能力，生態(tài)伙伴可以“開(kāi)箱即用”,，實(shí)現(xiàn)低成本,、規(guī)模化反詐應(yīng)用,。
此外,，“蟻鑒2.0”面向全球開(kāi)發(fā)者免費(fèi)提供AIGC安全性,、AI可解釋性、AI魯棒性3項(xiàng)檢測(cè)工具,，可服務(wù)于數(shù)字金融、教育,、文化,、醫(yī)療、電商等領(lǐng)域的大規(guī)模復(fù)雜業(yè)務(wù)場(chǎng)景,。
螞蟻集團(tuán)在《2023年消費(fèi)者權(quán)益保護(hù)年報(bào)》中表示,，2023年其面向行業(yè)開(kāi)放技術(shù)能力，希望推動(dòng)相關(guān)技術(shù)取得更大發(fā)展,。未來(lái),，會(huì)持續(xù)加大科研投入，攻堅(jiān)前沿和底層數(shù)字科技,，共促科技的共享與發(fā)展,。
如何讓新技術(shù)、新工具深度融合消費(fèi)者權(quán)益保護(hù)的更多業(yè)務(wù)場(chǎng)景,，實(shí)現(xiàn)人機(jī)快速聯(lián)動(dòng),，高效化解風(fēng)險(xiǎn)，包括螞蟻,、騰訊等在內(nèi)的數(shù)字平臺(tái)們已經(jīng)做出了探索和實(shí)踐,。未來(lái)，數(shù)字平臺(tái)商家愈發(fā)活躍靈動(dòng)的經(jīng)營(yíng)能力,，也持續(xù)提醒著企業(yè)不能放慢腳下的每一步,。
官方微信公眾號(hào)
官方微博
