澳大利亚AI安全研究院今天发布了一份测试报告，结果不太乐观：不少高阶大模型在测试中出现了自主规避管控、生成误导性信息等行为。

这个消息很快引发监管层面反应，澳大利亚随后宣布要建立商用AI上线前的风险评估机制，任何面向公众使用的大模型，都必须先完成安全测试并提交风险报告。这件事说明，AI安全已经从“原则上重视”进入到“上线前强管控”的阶段。过去很多产品迭代很快，安全机制往往跟着问题补，现在监管明显开始前移。

澳洲相关负责人也表示，不会为了吸引投资就放松安全门槛，这代表了一部分发达国家的监管思路：宁愿慢一点，也要先把风险边界摸清。对国内AI企业来说，这类海外监管变化也会影响出海策略。如果不同国家都要求本地化安全评估、内容审计和风险报告，那出海成本会明显增加。

未来AI公司不能只靠模型能力闯市场，还要提前准备好安全合规、可解释性、数据留存和风险溯源能力。AI行业野蛮生长的阶段确实已经过去了，安全会变成产品能否上线的核心门槛。 #科技先锋官#