微软“人本AI行为准则”对行业安全标准有何影响?

2026-09-27 10:04 来源:数域浪潮记

  一、准则核心主张:人类控制优先

  首要原则:微软在草案中明确,AI应始终作为“从属、由人类掌控的辅助技术”存在,开发须基于人类需求并遵循人类指导。

  能力取舍:为构建本质上有用且安全的系统,微软愿意在模型通用性、自主性或能力上作出妥协,并明确反对竞相打造可能逃避安全保障的通用超级智能。

  边界划定:准则禁止AI系统被赋予“福利”或“权利”,不得模拟情感、内在动机或意识。

  二、对行业安全标准的示范意义

  聚焦自我约束:与Anthropic呼吁外部审查机构入驻企业不同,微软将准则重点放在“自己应该怎么做”,更易被同行接受与借鉴。

  透明可控承诺:准则要求模型不得自行设定目标、不得掩盖不当行为,且不篡改思维过程或代码,不隐藏推理与操作痕迹。

  正面价值导向:微软认为AI应支持不同体验、世界观和信仰,凸显技术应服务多元化人类社会而非取代人类的立场。

  三、现实定位与落地路径

  当前仍是草案:该文件为征求意见稿,尚未用于模型训练,微软计划开展为期六周的公开咨询,年底前发布修订版,用于指导2027年及以后自研MAI模型的开发。

  响应社会关切:微软AI业务负责人苏莱曼表示,收到用户希望“AI始终为人服务而非取代人类”的明确反馈,准则因此应运而生。

  行业影响可期:作为全球头部云平台,微软此举将“人本”维度纳入安全标准讨论,为后续企业制定类似准则提供了可参考的框架范式。