刚刚,Sam 宣布 OpenAI 与美国国防部正式达成协议,将在其机密网络中部署 AI 模型,称国防部对安全表现出深切尊重。
协议签署的同一天,特朗普刚下令联邦政府全面停止与 Anthropic 的合作。
协议写入了 OpenAI 的两条核心安全原则:禁止国内大规模监控,以及武力使用(包括自主武器系统)必须由人类负责。讽刺的是,这些条件与 Anthropic 此前坚持的几乎完全相同。
OpenAI 还将仅在云端部署模型,不进入无人机等边缘设备,并派驻持有安全许可的工程师监控模型运行。
---
Sam 推文:
今晚,我们与国防部达成协议,将在其机密网络中部署我们的模型。在所有互动中,国防部展现了对安全的深切尊重,以及寻求最佳合作成果的意愿。
AI 安全和广泛分享利益是我们使命的核心。我们最重要的两项安全原则是:禁止国内大规模监控,以及武力使用必须由人类负责(包括自主武器系统)。国防部认同这些原则,这些原则也体现在现行法律和政策中,我们已将其写入协议。我们还将构建技术保障措施以确保模型按预期运行,这也是国防部所希望的。
我们将派驻现场部署工程师(FDE)协助模型部署并确保其安全,模型将仅在云网络上运行。我们正在请求国防部向所有 AI 公司提供同样的条款,我们认为这些条款是所有公司都应该愿意接受的。
我们已表达了强烈意愿,希望局势从法律和政府行动的方向降温,转向理性协商。我们始终致力于尽最大努力服务全人类。这个世界复杂、混乱,有时充满危险。
发布于 美国
