希腊神话里的卡珊德拉,特洛伊公主。
阿波罗赐给她预言的能力,被她拒绝后便降下诅咒:
她说的预言全都是真的,但永远没有人会相信。
特洛伊战争前夕,她一次次发出警告:
帕里斯会带回灾祸,海伦会招致毁灭,希腊留下的木马里面藏着士兵,千万不要拖进城….
所有人置若罔闻,把木马当作战利品。
当夜伏兵杀出,特洛伊城陷落。
她全部说对了,却没有一个人听…
这就是“卡珊德拉困境”:看得见灾难,也说得出灾难,但预警无法转化成行动。
等到悲剧发生,人们才恍然大悟,可一切为时已晚…
放到今天,有些AI预警者,处境何其相似。
马斯克、赵长鹏,还有不少从OpenAI离开的核心研究者,身处行业最前沿,近距离目睹AI能力狂飙,安全与对齐研究却远远跟不上,各方还在疯狂技术竞赛…
他们警示的不只是岗位失业,而是对齐失败、技术失控、恶意滥用、权力集中,甚至关乎人类存续的深层风险….
现实却是:很多人把这些声音当成科幻末日论、大佬危言耸听。
大众照常享受技术红利,政策脚步滞后,竞赛依旧继续…
不是没有人敲警钟,而是大家选择捂住耳朵。
特洛伊的毁灭是轰然一瞬;
AI风险更像温水煮青蛙,因为不会立刻爆发,所以更容易被无视…
人类的通病大抵如此:
愿意相信眼前看得见的红利,本能抗拒尚未落地的危机….
预警一直都在,缺的往往不是先知,而是愿意相信预警的听众…
#ai#
发布于 四川
