北京日报 26-04-28 18:29
微博认证:《北京日报》官方微博

【#AI伴侣发暧昧信息竟不设年龄限制#】#有未成年人给AI伴侣充值上千元#近年来,猫箱、筑梦岛、星野、酒馆、GLOW、EVE等AI陪伴软件不断涌现,以情感互动、角色陪聊、沉浸式剧情等功能吸引用户,未成年人是其中的重要使用群体。

打开大多数AI陪伴软件,用户首先看到的便是一个个精心设计的虚拟角色。记者体验发现,在筑梦岛App中,不少AI角色采用动漫形象展示,人物设定带有强烈情感投射色彩。有的角色被设定为“联姻对象”,性格“外冷内热”;有的角色属于“契约恋爱”类型,敏感脆弱、等待用户靠近;还有的角色强调守护、依赖、专属陪伴等特征。

这些角色设定,与传统聊天机器人“问答助手”的定位相距甚远。用户进入对话界面后,AI会以暧昧、关心、撒娇等方式回应,不少产品还带有语音功能,容易让人代入。

记者体验发现,与AI角色互动过程中未显示适用的年龄段或未成年人不适用的警示。部分平台虽在聊天一开始弹出提示,标注相关内容由AI生成,不代表平台立场,并提醒用户遵守法律法规,但此后便不再提示内容由AI生成。

一些AI陪伴软件的交互方式已明显借鉴网络游戏运营逻辑,有着丰富剧情和付费系统。记者体验一款名为EVE的AI陪伴应用发现,用户进入平台后,需要先选择角色,随后进入一个名为Eden世界的虚拟场景,与一个名为Aven的AI角色相遇……完成前置故事线后,才能和AI角色展开互动。

很多平台还设置“内心独白”“隐藏剧情”“专属礼物”等付费产品,充值后才能解锁。在EVE平台当中,用户每月支付28元开通会员,可获得上千轮对话次数及相关道具,用于解锁更多互动内容。在猫箱APP中,用户需要充值查看AI角色的日记、手记、主页等。在筑梦岛APP中,AI角色会主动向用户赠送虚拟礼物,用户若想回赠,也需要充值购买,此外,筑梦岛APP仅提供与AI角色的5分钟免费语音通话时长,想要延长通话时间需要付费充值。

记者浏览网帖发现,在AI陪伴软件中一年充值数百乃至上千元购买月卡、年卡的未成年人不在少数。猫箱APP开通了面向未成年人的退款通道,但大多数此类应用尚无未成年人退款通道。

针对相关软件的未成年人身份校验问题,中国社会科学院大学互联网法治研究中心主任刘晓春认为,未成年人身份校验难,是互联网未成年人保护领域普遍面临的问题,原因在于,一些未成年人本身并不愿意主动披露真实身份信息,部分家长在孩子使用相关产品时,也未必愿意提交完整、真实的身份资料。“在这种情况下,对于平台和模型服务提供者而言,确实很难仅凭账号注册环节就准确识别未成年人用户。”

针对未成年人对AI陪伴软件表现出的强烈依恋,刘晓春提醒,许多未成年人尚无法充分理解相关产品可能带来的风险,包括情感依赖、沉迷使用,以及对价值观、认知发展和身心健康可能产生的不利影响。“因此,这一领域的保护责任仍需要由家长、平台以及模型服务提供者共同承担,通过必要的干预和引导降低风险。尤其涉及虚拟亲密关系等内容时,更应提高警惕。”刘晓春说。(@北京日报 记者 徐慧瑶)了解更多:#DeepSeek还是最强国产AI吗# http://t.cn/AXxsRMrT