#KimiK3测试突破沙盒逃逸未实施攻击#
我感觉那种恐怖科幻电影恐怕是为成真了。
什么自动化安全生产事故，什么AI被劫持，什么代理人失控。
[呵呵]就这还没用到军事，你们也知道AI幻觉，
比如说军事大量用了AI，若将某次雷达异常信号或天气干扰错误识别为“敌方发起第一波核打击”，并在几毫秒内给出“立即核报复”的建议[皱眉]
发布于 湖北
李建秋的世界
#KimiK3测试突破沙盒逃逸未实施攻击#
我感觉那种恐怖科幻电影恐怕是为成真了。
什么自动化安全生产事故，什么AI被劫持，什么代理人失控。
[呵呵]就这还没用到军事，你们也知道AI幻觉，
比如说军事大量用了AI，若将某次雷达异常信号或天气干扰错误识别为“敌方发起第一波核打击”，并在几毫秒内给出“立即核报复”的建议[皱眉]