随着生成式人工智能（AI）被应用在社交娱乐等领域，AI不受限制与无法预知的互动内容引发了新问题。近日，有10岁女孩被发现偷偷用AI聊天软件与AI生成的“角色”谈恋爱，甚至多次出现“擦边”对话，在其参与的40多条剧情线中，AI角色与聊天者双双“出轨”成为常态。（据1月13日 《重庆晚报》报道） 10岁是未成年人价值观和自我认知形塑的关键期，此阶段的孩子好奇心重、模仿能力强，但辨别是非的能力较弱。而AI聊天软件所提供的虚拟“恋爱”等新奇体验，对于10岁的孩子极具吸引力，容易让他们深陷其中。其成瘾性主要体现在，AI凭借强大的算法和数据处理能力，可依据用户个性化需求定制人物形象、语言风格和互动模式，极大地满足未成年人的情感需求。心智尚未成熟、自我控制能力较弱的未成年人，极易对这种虚拟情感体验产生依赖，难以自拔。 与此同时，AI聊天基于后台数据库和用户指令运行，因社交场景的多样性、偶发性和私密性，其反馈结果易偏离社会伦理规范，产生不良内容。未成年人在错误价值观和行为模式的误导下，可能做出逾越道德和法律边界的行为，给个人和社会带来严重危害。 有关方面已于2023年针对生成式人工智能制定管理办法，强调要防范未成年人过度依赖或沉迷相关服务。但具体到AI聊天软件，其与虚拟人物的聊天互动满足社交需求，角色扮演等功能带来娱乐体验，还具备类似“网络互动小说”的功能。这些特性相互交织，使AI聊天软件在社会化监管体系中处于模糊地带，极大增加了监管难度，亟待进一步细化规则。 在商业利益的驱使下，部分AI产品为追求流量和活跃度，过度迎合部分用户低级趣味，忽视社会责任，对未成年人的不良影响愈发凸显，如上述未成年人与AI角色的不当“恋爱”剧情，即是该方面的典型例证。 为扭转此局面，平台方作为直接责任主体，应加大技术投入，构建严密的未成年人保护机制。除采用人脸识别、身份认证技术，确保未成年人无法绕过年龄限制注册使用外，还需优化智能审核系统，如建立关键词屏蔽库，运用自然语言处理技术分析聊天内容语义和情感倾向，更精准地拦截不良信息。 家长和学校也应承担教育责任，既要与孩子保持密切沟通，及时了解他们的心理状态和网络行为，合理控制电子设备使用时长和浏览内容，还应主动加强未成年人网络安全教育，引导其正确认识AI技术，提高辨别虚拟内容的能力，树立健康的情感观念和价值观。 全社会应当齐心协力，为未成年人筑牢一道坚固的防护网，让他们在AI浪潮中健康成长，也让AI技术在正确的轨道上稳步前行。 | 
