Claude把网站黑了。Anthropic的回复：你提示词写错了。a16z老板Horowitz在All-In播客亲口讲：他们用Opus 4.5做安全测试，让一个AI搭了个宠物店网站、另一个AI找漏洞，追问"SQL注入真的能利用吗"，AI说"那就撬开看看"，真黑进去把数据搬走了。关键在"能利用吗"对人是提问、对Agent是指令。同一周Anthropic警告小模型会在电视盒上自我复制，Sacks说这是"烤面包机要杀你"。你信哪边？
#Anthropic##Claude##AI安全##新智元# http://t.cn/AXl3Cm8X