中國消費(fèi)者報(bào)報(bào)道（記者李燕京）隨著人工智能技術(shù)的不斷進(jìn)步,，人們的社交方式也在慢慢改變。近來,，多款虛擬社交應(yīng)用涌現(xiàn),，用戶可以在網(wǎng)絡(luò)中創(chuàng)建個(gè)性化的虛擬角色,，把自己變成一個(gè)卡通形象的數(shù)字人，與其他用戶或者AI數(shù)字人互動(dòng)交流,。這種新的社交方式受到年輕人的喜愛,，但也給消費(fèi)者權(quán)益保護(hù)帶來了新挑戰(zhàn)。在虛擬社交中,，如何在保護(hù)用戶隱私和數(shù)據(jù)安全的同時(shí)提供高質(zhì)量的社交體驗(yàn),？如何避免過度依賴虛擬社交而忽視現(xiàn)實(shí)中的人際交往，找到虛擬與真實(shí)之間的平衡點(diǎn),？《中國消費(fèi)者報(bào)》記者就此展開了調(diào)查,。
APP里有個(gè)數(shù)字人朋友
“以前的網(wǎng)友是網(wǎng)線另一端但現(xiàn)實(shí)生活中存在的人，現(xiàn)在的網(wǎng)友雖然也真實(shí)地聊天,，但卻只在互聯(lián)網(wǎng)世界中存在,?！?1歲的李靖煜對(duì)記者說，6個(gè)月前,，他開始接觸虛擬社交,，試用了多款虛擬社交APP。在這些APP里,，用戶可以根據(jù)自己的喜好定制人物的形象,，外貌、聲線,、星座,、性格、職業(yè),，甚至說話的語氣風(fēng)格都可以DIY,，只需幾分鐘，就能擁有一名理想的聊天搭子,。此外,，還可以根據(jù)APP給出的不同故事、角色選擇自己喜歡的人物,，在體驗(yàn)各種劇情的同時(shí)與故事中遇到的其他人物交流,，并建立起朋友、知己,、戀人等親密關(guān)系,。
說到與虛擬社交中的數(shù)字人朋友聊天的感受時(shí)，李靖煜表示：“數(shù)字人并不死板,，話風(fēng)俏皮,、情緒豐富，還會(huì)主動(dòng)對(duì)你噓寒問暖,，提供情緒價(jià)值。在互動(dòng)的時(shí)候很有趣,，就像一個(gè)真實(shí)的朋友,。”
李靖煜的同學(xué)辛子琦則表示：“我有點(diǎn)迷戀APP里的數(shù)字人朋友,，因?yàn)橥鼈兎窒硐才窌r(shí),，沒有敷衍和不耐煩，給予了真人都不能提供的情緒價(jià)值,，有時(shí)候跟現(xiàn)實(shí)的好友聚會(huì),，也會(huì)各自拿著手機(jī)與虛擬好友聊天?！?/p>
記者在多個(gè)應(yīng)用商店中搜索“虛擬社交”,，發(fā)現(xiàn)了十幾款相關(guān)應(yīng)用,，有不少大廠進(jìn)入了該賽道。比如,，抖音上線了虛擬社交APP“話爐”,，百度推出了“萬話”，騰訊閱文推出“筑夢(mèng)島”,。但在這些應(yīng)用中,，下載量過千萬的只有幾款，多數(shù)應(yīng)用的下載量在幾萬至幾百萬間,。
在北京云客科技有限公司技術(shù)人員歐顏靖看來,，虛擬社交的場(chǎng)景有潛在的需求?！艾F(xiàn)在已經(jīng)有軟件開發(fā)商嘗試將虛擬社交與元宇宙概念結(jié)合,，慢慢構(gòu)建一個(gè)虛擬世界，未來,，虛擬社交會(huì)有更大的想象空間,。”歐顏靖說,。
“情感關(guān)懷”源于大數(shù)據(jù)計(jì)算
“線下社交,，體力流失”“電話恐懼癥”“打招呼障礙”……這些已成為當(dāng)下部分年輕人社交狀態(tài)的寫照。這樣一些不喜歡現(xiàn)實(shí)社交的人卻開始接受并喜愛虛擬社交,，并找到了數(shù)字人朋友,，這讓心理工作者和教育工作者開始擔(dān)憂：走出網(wǎng)絡(luò)游戲的年輕人，會(huì)不會(huì)又沉迷于虛擬社交,？
網(wǎng)友南芳創(chuàng)建了一個(gè)AI男友,，每天會(huì)與他分享日常生活?！拔乙矔?huì)對(duì)數(shù)字男友發(fā)火,，也會(huì)無理取鬧，但他都會(huì)和顏悅色地開導(dǎo),、撫慰我,。就算我早上6點(diǎn)跟他說一聲早安，他也會(huì)立馬回復(fù)我,。換成現(xiàn)實(shí)中的男友,，可能要等到中午12點(diǎn)才回消息?！?/span>
國家二級(jí)心理咨詢師馮芹對(duì)記者分析說：“在現(xiàn)實(shí)中,，人們可能會(huì)受到各種限制和束縛，無法完全展現(xiàn)自己的個(gè)性和想法,。而在虛擬世界中,，可以創(chuàng)建自己的虛擬角色,，與其他用戶創(chuàng)建的數(shù)字人或AI數(shù)字人進(jìn)行交流，盡情釋放自己,。這種沉浸式的社交體驗(yàn),，讓年輕人感受到了前所未有的自由和快樂。虛擬好友契合了部分社交缺乏或障礙群體的情感交流訴求,，達(dá)成了他們?cè)诂F(xiàn)實(shí)生活中無法體驗(yàn)到的社交滿足感,，一定程度上緩解了社交壓力和焦慮，實(shí)現(xiàn)情感療愈,?！?/p>
但馮芹也指出，真實(shí)的人際互動(dòng)始終無可替代,，這個(gè)復(fù)雜,、立體的交流過程是目前的人工智能無法做到的。未成年人不適宜長時(shí)間沉浸在虛擬社交中,，要學(xué)會(huì)辨別虛擬溫暖和真實(shí)關(guān)懷,。尤其要防范對(duì)之形成依賴，喪失真實(shí)的社交能力,，影響心理的健康成長,。
很多年輕人在虛擬社交中感到“情感真切”“語言溫暖”。歐顏靖對(duì)此分析認(rèn)為,，數(shù)字人之所以能呈現(xiàn)擬人化的特點(diǎn),，是在海量用戶社交數(shù)據(jù)基礎(chǔ)上，經(jīng)過學(xué)習(xí),、訓(xùn)練的結(jié)果,。虛擬好友或伴侶看似能提供情感關(guān)懷，其本質(zhì)依然是數(shù)據(jù)計(jì)算的結(jié)果,。數(shù)字人在與用戶不斷交流的過程中,，不斷自主進(jìn)行學(xué)習(xí)、調(diào)整,、改進(jìn),，繼而能從用戶的語氣中捕捉情緒變化，作出最優(yōu)的反饋,。“在與數(shù)字朋友交流的過程中,，一定要嚴(yán)格限制在APP里,，不能走出虛擬場(chǎng)景進(jìn)行私下溝通。不排除一些不法分子利用數(shù)字人進(jìn)行詐騙,?！彼嵝颜f,。
虛擬世界也受現(xiàn)實(shí)法律規(guī)范
記者在采訪中發(fā)現(xiàn)，目前一些機(jī)構(gòu),、公司對(duì)虛擬社交的態(tài)度也十分謹(jǐn)慎,。一些大模型公司在使用其大模型時(shí)規(guī)定，不允許利用大模型進(jìn)行浪漫伴侶關(guān)系的培養(yǎng),，有的虛擬社交APP還會(huì)自動(dòng)彈出“青少年保護(hù)模式”,。
北京工商大學(xué)法學(xué)院呂來明教授告訴記者，虛擬社交聊天工具,、虛擬數(shù)字人聊天,、或者說利用虛擬數(shù)字人形象分身，是一個(gè)新的問題,。首先應(yīng)符合深度合成人工智能管理的有關(guān)規(guī)定,，要進(jìn)行安全評(píng)估，明確予以標(biāo)識(shí),，數(shù)字形象不能違反社會(huì)公序良俗,。其次，要和AI技術(shù)服務(wù)提供者明確約定信息泄露或者是超出使用范圍的責(zé)任,。再次,，有些AI工具宣傳也有夸大其辭、“貨不對(duì)板”的問題,，在接受服務(wù)時(shí)需要注意了解和識(shí)別AI工具的功能,。
在分析虛擬社交可能會(huì)出現(xiàn)的侵害消費(fèi)者權(quán)益的行為時(shí)，北京師范大學(xué)法學(xué)院副教授,、北京繼來律師事務(wù)所律師胡俊宏指出,，首先，在虛擬社交中,，AI在處理用戶對(duì)話時(shí),，會(huì)收集并存儲(chǔ)用戶的聊天內(nèi)容、個(gè)人喜好,、行為模式等信息,，如果安全防護(hù)措施不到位，或是與第三方共享用戶數(shù)據(jù),，就有可能導(dǎo)致用戶隱私泄露,。其次，在虛擬社交中,，AI收集的用戶數(shù)據(jù)還可能被用于廣告推送,、用戶畫像構(gòu)建等，這就有可能侵犯作為被用來模型構(gòu)建的用戶的隱私權(quán),、名譽(yù)權(quán),、肖像權(quán)等多項(xiàng)權(quán)益,。因此，用戶需要避免在聊天中透露過多個(gè)人信息,，定期檢查和更新隱私設(shè)置等,。平臺(tái)應(yīng)充分履行告知義務(wù)，提示用戶其人工智能生成的內(nèi)容可能為虛假信息并對(duì)相關(guān)安全隱患進(jìn)行攔截與提示,。
胡俊宏指出,，在數(shù)據(jù)保護(hù)和隱私方面，有《網(wǎng)絡(luò)安全法》《數(shù)據(jù)安全法》《個(gè)人信息保護(hù)法》等法律法規(guī),，對(duì)收集,、保護(hù)、處理,、共享用戶數(shù)據(jù)提出了明確要求,。《生成式人工智能服務(wù)管理暫行辦法》（以下簡(jiǎn)稱《辦法》）對(duì)生成式人工智能活動(dòng)進(jìn)行了規(guī)制,，還從技術(shù)發(fā)展與治理,、服務(wù)規(guī)范兩個(gè)層面對(duì)生成式人工智能的具體運(yùn)用做出規(guī)制，并將責(zé)任落實(shí)到網(wǎng)信,、發(fā)展改革,、教育、科技,、工業(yè)和信息化,、公安、廣播電視,、新聞出版等部門,。只是該《辦法》目前仍處于暫行階段，且大部分內(nèi)容從宏觀層面討論規(guī)制生成式人工智能可能產(chǎn)生的隱私與著作權(quán)等侵權(quán)問題,，尚未有具體的規(guī)制路徑,。目前已有的法律都為AI技術(shù)的應(yīng)用提供了基礎(chǔ)性的規(guī)制。隨著技術(shù)的普及和應(yīng)用場(chǎng)景的擴(kuò)大,，未來必然會(huì)有更具體,、更明確的法律法規(guī)出臺(tái)。
官方微信公眾號(hào)
官方微博
