中國消費(fèi)者報(bào)南京訊 隨著當(dāng)前數(shù)字化浪潮的快速發(fā)展,，AI伴侶類應(yīng)用迅猛發(fā)展,，有的主打情感陪伴，提供情緒價(jià)值,；有的融入角色扮演元素,，讓用戶能夠與虛擬伴侶展開各種劇情互動(dòng)。AI伴侶通過不斷學(xué)習(xí)對話內(nèi)容，深入了解用戶的聊天風(fēng)格,、情緒變化和價(jià)值取向,，成為“量身定制”的理想伴侶。然而這看似“深情”的背后,，卻可能是“甜蜜”危機(jī),。近日，江蘇省消費(fèi)者權(quán)益保護(hù)委員會(huì)指出,，AI伴侶類應(yīng)用可能存在隱私泄露,、內(nèi)容安全、消費(fèi)陷阱和情感依賴等風(fēng)險(xiǎn),。
AI伴侶的誕生,，為存在情感需求的群體提供了情感寄托的空間，在一定程度上緩解了孤獨(dú)感與焦慮情緒,，但其潛藏的風(fēng)險(xiǎn)不容忽視,，尤其是隱私安全問題。江蘇省消保委表示,，部分AI伴侶應(yīng)用在運(yùn)行期間,，存在過度收集用戶信息的現(xiàn)象，聊天記錄,、地理位置,、軟件使用習(xí)慣等數(shù)據(jù)，均被收集,，甚至有應(yīng)用在未經(jīng)用戶明確同意的情況下,，私自讀取其他軟件信息、瀏覽記錄及訪問相冊,。一旦發(fā)生隱私泄露,，個(gè)人權(quán)益、財(cái)產(chǎn),、生活等都將受到嚴(yán)重影響,。并且，AI伴侶模型訓(xùn)練數(shù)據(jù)來源廣泛,，部分?jǐn)?shù)據(jù)收集與篩選不嚴(yán),，部分應(yīng)用存在傳播不良信息的風(fēng)險(xiǎn)，這些有害內(nèi)容會(huì)對用戶尤其是心智尚未成熟的青少年的身心健康構(gòu)成威脅,。
AI伴侶的“陪伴”并非免費(fèi),，應(yīng)用里的收費(fèi)模式多種多樣，包括會(huì)員訂閱制,、虛擬物品銷售,、功能付費(fèi)解鎖、付費(fèi)劇情和任務(wù)等等。部分應(yīng)用的收費(fèi)規(guī)則不僅缺乏透明度,，還存在誘導(dǎo)消費(fèi)行為,，通過不斷推出新的付費(fèi)項(xiàng)目、設(shè)置限時(shí)優(yōu)惠等手段,，刺激用戶進(jìn)行非理性消費(fèi),。沉溺這種“陪伴”更不可靠，AI伴侶模擬人類情感交流,，引起情感共鳴,，然而其給予的反饋內(nèi)容并不是真實(shí)的情感體驗(yàn)，而是基于預(yù)設(shè)算法生成的回應(yīng),。用戶長期依賴這類虛假情感反饋,，可能會(huì)對真實(shí)人際關(guān)系中的情感互動(dòng)產(chǎn)生誤解，進(jìn)而降低自身在現(xiàn)實(shí)生活中識別和處理真實(shí)情感的能力,。
江蘇省消保委建議監(jiān)管部門加大對此類應(yīng)用市場的監(jiān)管力度,，定期對AI類應(yīng)用的數(shù)據(jù)安全、算法合規(guī)性,、內(nèi)容合法性等進(jìn)行檢查,，對發(fā)現(xiàn)的問題及時(shí)責(zé)令整改，對嚴(yán)重侵犯消費(fèi)者權(quán)益,、違反法律法規(guī)的行為,，依法予以查處。應(yīng)用開發(fā)者需建立健全的數(shù)據(jù)安全管理體系,，明確數(shù)據(jù)收集、存儲(chǔ),、使用,、共享等環(huán)節(jié)的安全標(biāo)準(zhǔn)和責(zé)任，定期對數(shù)據(jù)存儲(chǔ)系統(tǒng)進(jìn)行安全檢測和漏洞修復(fù),，加強(qiáng)員工的數(shù)據(jù)安全培訓(xùn),，增強(qiáng)數(shù)據(jù)保護(hù)意識，多方面保障用戶數(shù)據(jù)安全,。同時(shí)要建立嚴(yán)格的內(nèi)容審核機(jī)制,，對AI伴侶輸出的內(nèi)容進(jìn)行全面審核，確保其不包含任何誤導(dǎo)性,、歧視性或不良價(jià)值觀的信息,，加強(qiáng)對AI模型的訓(xùn)練和優(yōu)化，使其能夠輸出積極,、健康情感反饋和建議,，引導(dǎo)用戶樹立正確的價(jià)值觀。
消費(fèi)者在選擇AI伴侶應(yīng)用時(shí)，務(wù)必仔細(xì)審閱隱私政策,，了解數(shù)據(jù)處理規(guī)則,。優(yōu)先考慮規(guī)則透明、數(shù)據(jù)保護(hù)強(qiáng),、口碑好的應(yīng)用,。在使用過程中，根據(jù)需求授權(quán)數(shù)據(jù)權(quán)限,，避免授權(quán)敏感權(quán)限如地理位置,、通訊錄、瀏覽記錄等,。若發(fā)現(xiàn)存在過度收集個(gè)人信息的情況,，應(yīng)及時(shí)停用并反饋。（薛晶晶）
