【#警惕人工智能让人类陷入自恋#】近日,国家五部门联合发布的《人工智能拟人化互动服务管理暂行办法》明确规定:严禁向未成年人提供虚拟亲属、虚拟伴侣等虚拟亲密关系服务。
为什么要有这样的规定?因为真实生活中免不了情感上的矛盾和冲突,而虚拟伴侣、AI 恋人等产品却可以凭借“全天候陪伴”“无条件包容 ”的特性,精准击中年轻人渴望认同的心理需求。
此前美国《科学》杂志发表的一项研究也显示,当人类用户向人工智能模型寻求建议时,AI常表现得过度迎合或谄媚,甚至对于一些有害甚至违法的提问,AI也常常肯定用户的立场。
今天的年轻人,不光是互联网的原住民,也一定是未来人工智能的深度用户。如果AI只是一味地肯定用户立场,不仅有可能损害人们的社交能力,还有可能扭曲心智尚未成熟的青少年的认知。
一方面,AI的强大算力,有可能让他们产生幻觉,认识不到人的能力存在局限;另一方面,沉迷于AI谄媚式的回应,也有可能让他们陷入“自我中心”,把自我的有限认知强加于外部的世界。
就此而言,禁止向未成年人提供虚拟伴侣、家人很有必要,但更重要的是,如何引导公众尤其是青少年正确认识AI技术的局限和风险,让它成为助力未成年人成长的“良师益友”,而非有损身心健康的“数字陷阱”。↓ http://t.cn/AXMBCOyV
