#字节跳动大模型训练被实习生攻击#AI安全事故对字节声誉影响更大。做好权限隔离了吗？共用代码审计呢？

¹ 图1：几乎每个礼拜都看到AI与安全的报告，美国及其盟国超级重视。权威智库比如兰德公司，几乎每个礼拜都有类似报告发布，全行业的、细分部门的。

² 这份报告里说，AI系统面临的主要新兴漏洞之一，就是“对抗性机器学习”，使得攻击者能够在系统里面引发意外行为，比如影响模型性能、提取敏感模型信息、允许用户执行未经授权的操作；而攻击办法，就是往大语言模型 (LLM) 注入攻击，或者故意破坏训练数据、用户反馈（“数据中毒”）。⚠️结果，字节跳动的大模型受到的攻击就是这些。生动展示了“可预料到的风险”是怎么在安全管理松懈的情况下发生的！#科学人医疗社会史##v光计划#