【联合国儿童基金会祝贺中国出台开创性监管措施,保护儿童免受人工智能相关风险】联合国儿童基金会对中国政府近期发布《人工智能拟人化互动服务管理暂行办法》表示祝贺。这一具有开创性意义的政策,是全球范围内针对陪伴、情感关怀与支持等人工智能情感交互服务实施监管迈出的重要一步。
该暂行办法构建了清晰的保护机制,确保儿童尤其是最脆弱群体能够远离人工智能互动中的有害内容,避免虚假亲密感的误导。同时,该暂行办法也通过相应保障措施支持成年人及时发现风险、及早介入干预。
联合国儿童基金会驻华办事处与联合国儿童基金会全球研究办公室合作,为该办法中强化儿童保护相关规定提供了技术建议,这也是联合国儿童基金会就影响儿童的数字空间监管事宜与有关部门开展广泛协作的一部分。这一工作推动完善了相关条款,以应对情感沉浸式及拟人化人工智能系统给儿童带来的特定风险。
该暂行办法在儿童保护领域作出重要创新,明确禁止人工智能服务为儿童生成可能引发模仿不安全行为、产生极端情绪或诱导不良嗜好的内容。办法同时划定明确红线,禁止向儿童提供虚拟亲密关系相关服务,包括基于人工智能的虚拟亲属、虚拟伴侣等。这是全球人工智能政策领域出台的前所未有的保护举措。
此外,该办法要求实施适配年龄的保护措施,支持父母或者其他监护人获取安全风险提醒、了解儿童使用服务情况、屏蔽特定角色、限制充值消费。办法强化信息透明,要求对人工智能生成内容进行显著标识,确保儿童知晓自身交互对象为人工智能系统而非自然人。该办法还通过强制性安全评估进一步落实儿童保护,要求制定并执行未成年人网络保护措施。
上述举措构成全面且创新的治理方案,为全球以儿童为中心的人工智能治理提供重要参考。尽管该办法仍可进一步与国际儿童权利标准接轨,但其已展现了如何在人工智能治理框架的早期阶段融入以儿童为中心的保障措施。在一个拥有近1.96亿未成年网络用户的国家,其意义尤为突出。
与此同时,联合国儿童基金会驻华办事处正在持续支持人工智能与数字领域的标准开发和规范制定,与相关政府合作伙伴及科技行业紧密协作,推动“设计保障安全”理念落地。相关工作内容包括为新政策提供技术建议;推动各项政策与国际儿童权利及儿童保护标准接轨;以及与企业合作,将监管要求转化为负责任的产品设计与应用。
通过上述工作,联合国儿童基金会致力于推动人工智能创新切实促进中国儿童权利的实现、保障儿童的安全、增进儿童的福祉,并借助中国日益提升的国际影响力,为全球数字治理提供参考。
