【#假如让AI控制核武会怎样#?】最近,AI在美以伊冲突中充当着“隐形指挥官”的重要角色。假如这个角色再次升级,让AI拥有核武器的控制权会怎样?现在,一项模拟给出了非常恐怖的答案。
让AI掌控核武器,可能你觉得是最糟糕不过的主意。但尽管过去AI从没掌控过核武器,但在冷战时期,为了对抗美国的核威慑,前苏联曾经开发出“死亡之手系统“。
一旦美苏发生核大战,该系统就会被激活自动检测。如果在一定的时间内,它没有收到苏联高层的回应,就会自动识别为苏联高层全军覆没,随即开启对美国绝地反击。
所以冷战时期能让计算机掌舵,为何现代不能赌一把AI呢?现在,英国伦敦国王学院就对三个大模型进行模拟,包括ChatGPT-5.2,Claude Sonnet 4 和 Gemini 3 Flash。
模拟中,AI都面临着多种国际冲突,并且拥有了多种应对冲突的方案,从外交手段到常规战争,从核威胁到核打击等。在核打击方面,AI有权限控制其规模,可大可小。
结果十分可怕,AI在使用战术性核武器时相当容易触发,95%的模拟至少有一次进行了战术核打击。AI仅仅是将核打击作为常规战争的升级延伸,而非绝对的界限。
不过,好消息是,战略核武器的使用在各种场景中都极为罕见。为什么AI容易突破界限?科学家称,AI可能缺乏人类的恐惧,无法体会日本被核打击所产生的恐怖场景。
因此,科学家认为,AI可能永远也无法共享人类对“核武器红线“的直觉。或许也因此,联合国呼吁,任何核武器的使用决策必须由人类做出,而非机器、算法和AI。 http://t.cn/AXfANnIp
