鳗鱼缸缸
26-07-08 13:30 微博认证:AI博主

今天网络安全厂商对外发布监测报告,多款国内外主流大模型存在提示词注入高危漏洞,不法分子编写恶意指令绕过权限限制,私自调取用户上传的合同文件、身份资料、财务报表等私密内容,多款大众常用AI产品均被波及。

安全团队第一时间把漏洞详情递交给各大科技企业,各家厂商紧急推送后台安全补丁,升级指令拦截识别机制,封堵漏洞风险。安全专家也给普通使用者提出很接地气的建议,日常使用公共云端AI工具时,尽量不要上传身份证扫描件、私密商业合同、家庭财务明细这类高度敏感资料;企业商用场景最好选择私有部署本地模型,数据全程不流出内网环境,从根源规避泄露隐患,并且定期做模型渗透安全检测,及时发现后台隐藏风险。

随着AI融入日常办公,数据泄露已经成为最普遍的安全隐患,很多用户只关注模型好不好用,忽略底层安全防护,这次漏洞曝光也给行业敲了警钟,性能迭代升级的同时,安全风控体系必须同步跟进完善。

发布于 福建