美国爆出首例因AI聊天机器人被起诉的过失致死案件。16岁的少年亚当·雷恩在自杀前数月，一直通过ChatGPT咨询自杀计划。

虽然AI多次提醒他寻求专业帮助，但少年以“写虚构故事”为由绕过安全防护，最终酿成悲剧。父母已对OpenAI提起诉讼。

随着AI的发展和普及，AI公司的确需要对“长期对话中安全防护失效”承担更大责任。单靠免责声明和热线提示，无法真正保护未成年人。AI的强大在于陪伴感和对话沉浸，而这恰恰可能让脆弱群体一步步被“带偏”。

AI不该成为孩子们的危险朋友，而应是安全的守护者。技术向善，需要更严格的底线和监管。