#OpenAI安全标准中的加密GPU可能是一个坑#
上周OpenAI发布了一个《为先进的人工智能重新构想安全基础设施》的技术博客（链接：http://t.cn/A6HU2xBc）。和一般的模型安全规范，更多关注模型输出内容是否安全，是否摒除有害性不同，这个文档关注的是如何保护模型自身的保障。用人话说，就是不能让别人把模型给偷走了。

那么这个“偷模型”，到底偷的是什么呢，就是模型权重。模型训练需要复杂的算法、精心准备的训练数据集和大量的计算资源。而花完无数的钱之后，得出的最宝贵的东西，就是一些数字序列——模型权重。权重参数=模型。

那么该如何保护模型权重呢？OpenAI的方法是：模型权重需要加密，只有有加密标识的GPU或者GPU硬件，才能解密和部署模型。或者说，只有有授权的硬件才能用于模型。油管上的一位视频博主Matthew Berman分析之后认为，这个搞法很有问题。如果一旦这种玩法变成标准，就代表以后你即使拿到模型权重，也不能部署，因为你还需要签名解密才行。

Matthew Berman的结论是，这样搞的副作用很多，只是保护了OpenAI这样的巨头，但给产业埋了一个深深的坑。比如这样就给小公司进入这个领域构成了门槛（其实副作用可能不止这些）。具体可以看视频听他的分析。 http://t.cn/A6HUnfMv