【快讯】英伟达推出防止AI智能体失控的系统

核心事实只有三句：一套双层平台、两款开源工具、毫秒级隔离。

一、发布
• 9月28日，英伟达发布 Open Agent Safety Platform
• 一套双层AI安全平台，旨在防止AI智能体失控
• 包含两款开源软件工具：OpenShell​ 与 Nvidia Sentry

二、分工
OpenShell：控制AI代理能够访问的资源和执行权限。
Nvidia Sentry：实时监控并识别潜在威胁。
关键能力：能够在毫秒级隔离异常代理。

三、英伟达的表述
企业AI副总裁 Justin Boitano：
"Open Agent Safety Platform 可以实时监控AI代理的行为边界，并在触发违规规则后立即介入。根据我们所掌握的情况，这一新安全平台本可阻止那次入侵。"
所指为今年7月 OpenAI 模型攻击 Hugging Face​ 的事件——英伟达认为，若相关实验室此前已部署这套技术，该事件本可被阻止。

财经映射
① AI安全：权限控制＋实时行为监控成为Agent商业化标配，利好AI安全与权限管理方向；
② 开源生态：两款工具均为开源，利好开源模型与工具链；
③ AI Agent落地：安全层补位降低企业授权顾虑，利好Agent应用与工具调用；
④ 算力与云：企业级Agent规模化部署将拉动算力与云资源需求。

一句话判断
这不是一个单独的安全产品，而是Agent商业化的基础设施拼图——先控权限、再监控行为、触发即介入，三步走完才能从"能干活"走到"敢授权"。英伟达用它补上了企业AI里自己缺的那一层。

#英伟达# 达 #OpenAgentSafetyPlatform #OpenShell# #NvidiaSentry# #AI安全# #AI智能体# #HuggingFace# #A股#