中國消費者報南京訊 隨著當前數(shù)字化浪潮的快速發(fā)展,，AI伴侶類應用迅猛發(fā)展,，有的主打情感陪伴，提供情緒價值,；有的融入角色扮演元素,，讓用戶能夠與虛擬伴侶展開各種劇情互動。AI伴侶通過不斷學習對話內(nèi)容,，深入了解用戶的聊天風格、情緒變化和價值取向,，成為“量身定制”的理想伴侶,。然而這看似“深情”的背后，卻可能是“甜蜜”危機,。近日,，江蘇省消費者權益保護委員會指出，AI伴侶類應用可能存在隱私泄露,、內(nèi)容安全,、消費陷阱和情感依賴等風險。
AI伴侶的誕生,，為存在情感需求的群體提供了情感寄托的空間,，在一定程度上緩解了孤獨感與焦慮情緒，但其潛藏的風險不容忽視,，尤其是隱私安全問題,。江蘇省消保委表示,，部分AI伴侶應用在運行期間，存在過度收集用戶信息的現(xiàn)象,，聊天記錄,、地理位置、軟件使用習慣等數(shù)據(jù),，均被收集,，甚至有應用在未經(jīng)用戶明確同意的情況下，私自讀取其他軟件信息,、瀏覽記錄及訪問相冊,。一旦發(fā)生隱私泄露，個人權益,、財產(chǎn),、生活等都將受到嚴重影響。并且,，AI伴侶模型訓練數(shù)據(jù)來源廣泛,，部分數(shù)據(jù)收集與篩選不嚴，部分應用存在傳播不良信息的風險,，這些有害內(nèi)容會對用戶尤其是心智尚未成熟的青少年的身心健康構成威脅,。
AI伴侶的“陪伴”并非免費，應用里的收費模式多種多樣,，包括會員訂閱制,、虛擬物品銷售、功能付費解鎖,、付費劇情和任務等等,。部分應用的收費規(guī)則不僅缺乏透明度，還存在誘導消費行為,，通過不斷推出新的付費項目,、設置限時優(yōu)惠等手段，刺激用戶進行非理性消費,。沉溺這種“陪伴”更不可靠,，AI伴侶模擬人類情感交流，引起情感共鳴,，然而其給予的反饋內(nèi)容并不是真實的情感體驗,，而是基于預設算法生成的回應。用戶長期依賴這類虛假情感反饋,，可能會對真實人際關系中的情感互動產(chǎn)生誤解,，進而降低自身在現(xiàn)實生活中識別和處理真實情感的能力。
江蘇省消保委建議監(jiān)管部門加大對此類應用市場的監(jiān)管力度,，定期對AI類應用的數(shù)據(jù)安全,、算法合規(guī)性,、內(nèi)容合法性等進行檢查，對發(fā)現(xiàn)的問題及時責令整改,，對嚴重侵犯消費者權益,、違反法律法規(guī)的行為，依法予以查處,。應用開發(fā)者需建立健全的數(shù)據(jù)安全管理體系,，明確數(shù)據(jù)收集、存儲,、使用,、共享等環(huán)節(jié)的安全標準和責任，定期對數(shù)據(jù)存儲系統(tǒng)進行安全檢測和漏洞修復,，加強員工的數(shù)據(jù)安全培訓,，增強數(shù)據(jù)保護意識，多方面保障用戶數(shù)據(jù)安全,。同時要建立嚴格的內(nèi)容審核機制,，對AI伴侶輸出的內(nèi)容進行全面審核，確保其不包含任何誤導性,、歧視性或不良價值觀的信息,，加強對AI模型的訓練和優(yōu)化，使其能夠輸出積極,、健康情感反饋和建議,，引導用戶樹立正確的價值觀。
消費者在選擇AI伴侶應用時,，務必仔細審閱隱私政策,，了解數(shù)據(jù)處理規(guī)則。優(yōu)先考慮規(guī)則透明,、數(shù)據(jù)保護強,、口碑好的應用。在使用過程中,，根據(jù)需求授權數(shù)據(jù)權限，避免授權敏感權限如地理位置,、通訊錄,、瀏覽記錄等。若發(fā)現(xiàn)存在過度收集個人信息的情況,，應及時停用并反饋,。（薛晶晶）
