隨著生成式人工智能（AI）被應(yīng)用在社交娛樂等領(lǐng)域,，AI不受限制與無法預(yù)知的互動內(nèi)容引發(fā)了新問題,。近日,，有10歲女孩被發(fā)現(xiàn)偷偷用AI聊天軟件與AI生成的“角色”談戀愛,，甚至多次出現(xiàn)“擦邊”對話,，在其參與的40多條劇情線中,，AI角色與聊天者雙雙“出軌”成為常態(tài),。（據(jù)1月13日 《重慶晚報》報道）
10歲是未成年人價值觀和自我認(rèn)知形塑的關(guān)鍵期,，此階段的孩子好奇心重,、模仿能力強(qiáng),，但辨別是非的能力較弱。而AI聊天軟件所提供的虛擬“戀愛”等新奇體驗(yàn),，對于10歲的孩子極具吸引力,，容易讓他們深陷其中。其成癮性主要體現(xiàn)在,，AI憑借強(qiáng)大的算法和數(shù)據(jù)處理能力,，可依據(jù)用戶個性化需求定制人物形象、語言風(fēng)格和互動模式,，極大地滿足未成年人的情感需求,。心智尚未成熟、自我控制能力較弱的未成年人,，極易對這種虛擬情感體驗(yàn)產(chǎn)生依賴,，難以自拔。
與此同時,，AI聊天基于后臺數(shù)據(jù)庫和用戶指令運(yùn)行,，因社交場景的多樣性、偶發(fā)性和私密性,，其反饋結(jié)果易偏離社會倫理規(guī)范,，產(chǎn)生不良內(nèi)容。未成年人在錯誤價值觀和行為模式的誤導(dǎo)下,，可能做出逾越道德和法律邊界的行為,，給個人和社會帶來嚴(yán)重危害。
有關(guān)方面已于2023年針對生成式人工智能制定管理辦法,，強(qiáng)調(diào)要防范未成年人過度依賴或沉迷相關(guān)服務(wù),。但具體到AI聊天軟件，其與虛擬人物的聊天互動滿足社交需求,，角色扮演等功能帶來娛樂體驗(yàn),，還具備類似“網(wǎng)絡(luò)互動小說”的功能。這些特性相互交織,，使AI聊天軟件在社會化監(jiān)管體系中處于模糊地帶,，極大增加了監(jiān)管難度，亟待進(jìn)一步細(xì)化規(guī)則,。
在商業(yè)利益的驅(qū)使下,，部分AI產(chǎn)品為追求流量和活躍度，過度迎合部分用戶低級趣味,，忽視社會責(zé)任,，對未成年人的不良影響愈發(fā)凸顯，如上述未成年人與AI角色的不當(dāng)“戀愛”劇情，即是該方面的典型例證,。
為扭轉(zhuǎn)此局面,，平臺方作為直接責(zé)任主體，應(yīng)加大技術(shù)投入,，構(gòu)建嚴(yán)密的未成年人保護(hù)機(jī)制,。除采用人臉識別、身份認(rèn)證技術(shù),，確保未成年人無法繞過年齡限制注冊使用外，還需優(yōu)化智能審核系統(tǒng),，如建立關(guān)鍵詞屏蔽庫,，運(yùn)用自然語言處理技術(shù)分析聊天內(nèi)容語義和情感傾向，更精準(zhǔn)地攔截不良信息,。
家長和學(xué)校也應(yīng)承擔(dān)教育責(zé)任,，既要與孩子保持密切溝通，及時了解他們的心理狀態(tài)和網(wǎng)絡(luò)行為,，合理控制電子設(shè)備使用時長和瀏覽內(nèi)容,，還應(yīng)主動加強(qiáng)未成年人網(wǎng)絡(luò)安全教育，引導(dǎo)其正確認(rèn)識AI技術(shù),，提高辨別虛擬內(nèi)容的能力,，樹立健康的情感觀念和價值觀。
全社會應(yīng)當(dāng)齊心協(xié)力,，為未成年人筑牢一道堅固的防護(hù)網(wǎng),，讓他們在AI浪潮中健康成長，也讓AI技術(shù)在正確的軌道上穩(wěn)步前行,。（孔德淇）
官方微信公眾號
官方微博
