#AI开始报警抓人了#AI报警抓人
前高盛分析师Darren Zhou，在ChatGPT 里完整写下针对前女友的犯罪计划
绑架、侵害、谋杀，连家人都包含在内。
这段对话触发OpenAI安全风控，平台人工复核评估现实危险后，
直接把聊天记录提交给FBI！
结局：人被FBI逮捕，高盛直接把他开除。
细思极恐的几个点：
①你和AI的聊天记录，并不是完全私密的
2大模型的安全机制，会识别真实暴力风险，主动上报执法机构
3 哪怕只是脑子里的想法，只要输入进AI对话框，就有可能被判定风险
很多人以为和AI聊天是纯粹私人宣泄但现在AI已经拥有“举报”的能力。
不要把犯罪、伤害他人的想法输入大模型！
那我们的对话隐私边界到底在哪里？ http://t.cn/AXpUB2XW