推石头的林律师 26-04-24 14:39
微博认证:律师 法律博主

#未成年人AI情感依赖调查#AI情感依赖现象确实问题越来越严重,媒体披露,有5岁幼儿把零食枕头留给AI、把AI当"知心闺蜜",还有高中生因社交圈只剩AI而休学。
这种情况,作为一个经历过互联网生态的原住民,互联网老登来看,原来也有情感投射的现象存在。比如当年有疯狂迷恋刘德华的,有自己和玩偶对话的,有自己幻想和小说男主谈恋爱的。
但那些侵略性,都没有真正可交互的AI厉害。尤其是未成年人AI情感依赖,现在已成为兼具法律、伦理与社会治理属性的复杂问题。
国家也已经发布了《生成式人工智能服务管理暂行办法》,明确要求提供者采取有效措施防范未成年人过度依赖或沉迷。
而即将施行的《人工智能拟人化互动服务管理暂行办法》,要求建立未成年人模式,提供模式切换、时长限制、现实提醒等功能,并且绝对禁止向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务。同时,也不允许向不满 14 周岁未成年人提供服务,必须取得监护人同意。
其实长期看,AI虚拟拟人化,沉迷情况不可避免,规则和处置还是缺少一些中间的环节,比如对 “过度依赖”的因果关系,这方面司法认定标准不明确,同时哪怕走民事诉讼,休学、心理伤害、社交能力退化等非物质损害的赔偿标准也不够清晰。
加上大家可能都知道,当下部分平台未成年人模式流于形式,身份核验可绕过。这些都需要约束和管制。
当然,也管制是一方面,AI也是大趋势,也不能因噎废食。一边发展不能停,一边也要限制黑灰产和不良导向。
这些里面的缺陷,相信相关部门也看到了,补法规缺口,补规制漏洞,应该也已经提上了议程。#律师说法#

发布于 广东