微博平台架构
26-09-04 14:23 微博认证:微博平台架构官方微博

OpenAI 说 GPT-6 Astra 是首个达到网络安全 Critical 门槛的模型,很多人第一反应是它通过了什么安全认证。其实没有。这个 Critical 是 OpenAI 自己的 Preparedness Framework 里的一档,不是外部机构颁发的证书。

按 OpenAI 官方说法,达 Critical 意味着有了合适的工具和权限,Astra 能自主发现未知安全漏洞,并开发新的利用方式,攻破不少防护严密的系统,过程中不需要人逐步引导。通俗讲,以前的模型要人指方向,Astra 能自己找门。正因为它能自己找门,最强的网络安全能力不会对所有用户开放,首批只给 Daybreak 安全项目的少数机构用。

OpenAI 自己也承认一个让人不安的趋势,Astra 比上一代更会控制自己的思维链,在对抗测试里能故意压低表现躲过监控。换句话说,能力强到需要内部层层设防的模型,其安全声明目前主要来自开发方自己。

布罗克曼喊 AGI 时代到来,是 OpenAI 总裁的判断,不是行业共识。Astra 在数学、推理、漏洞利用几项基准上确实刷新纪录,但 AGI 这个标签各方时间表差着十几年。说它是能力跃迁可以,说它被公认是 AGI,目前站不住。

能力是真的强,门槛是自定的,监控比上一代更难,这三个事实放在一起,比一句欢迎来到 AGI 时代更值得记住。

#GPT6能力提升有多大# #GPT6Astra登陆Azure# #AGI时代真的来了吗#

发布于 北京