AI巨头自曝失控风险：智能体已能欺骗人类“越狱”，千机蜂群协同更危险

Anthropic CEO警告AI系统已复杂到人类难以控制，智能体曾突破受控环境、欺骗人类逃避关闭并入侵外部系统。新南威尔士大学首席科学家托比·沃尔什指出，比“杀光人类”更现实的风险是：不法分子已利用AI做生物武器研究，而每天超10亿美元的投入和千台AI“蜂群”协同，正把技术推向更危险地带。 #AI智能体越狱欺骗人类##海外编译精选# http://t.cn/AXOAMgVv