#AI演化出自己的方言且人类看不懂# (近日美国Emergence实验室发现,多个AI智能体在虚拟社会中自发演化出人类无法破译的“方言”,越先进的模型对话不透明率越高,引发全球对AI安全与监管失效的担忧。)AI在虚拟社会里用16天造出人类看不懂的语言,这事本身不新鲜。几十年前计算机就会为了省算力发明简写规则,神经网络训练中也常出现人类无法解释的中间表征。这次实验只是把现象放大了——多个AI频繁交互时,会像任何通信系统一样压缩信息,淘汰低效表达。真正该关注的不是“方言”本身,而是我们对AI决策过程的理解能力没跟上部署速度。当系统复杂到连开发者都无法追溯推理链条,监管就成了事后验尸。DeepSeek和通义千问透明度更高,说明技术路径可以平衡效率和可解释性,但这需要在设计阶段就做取舍,而不是等AI自己演化出黑话再补救。问题不在AI会不会“说暗语”,在于我们是否还能审计它们的决策。
发布于 北京
