这两天有个挺牛逼的事,武汉网警前阵子破了一起“AI换脸”侵入企业后台的案子——几个人靠算法把别人的脸“套”到视频里,混过平台的人脸识别,不光改了公众号密码,还把公司法人信息篡了,粉丝一觉醒来全被引去关注某理财号。
听起来像电影桥段,其实背后是成熟的灰产链,有人收集公开的自拍、视频素材,有人训练模型,把目标脸拼贴到自己的视频里,再用它骗过系统的活体检测。技术门槛没想象的那么高,网络上现成的开源工具一堆。
这种“AI换脸”本来是影视特效的利器,用对地方能让演员一秒返老还童,用错地方,就是换脸诈骗、隐私买卖、恶意合成的起点。
办案民警在嫌疑人屋里翻出的硬盘里,全是别人公开的短视频截图、直播画面,成了他们的“材料库”。四十多万的赃款,几乎全是靠冒充别人去做身份验证赚来的。
这事挺让人后背发凉,我们随手发的高清自拍,可能某天就被拼到“你”根本没去过的场景里;一次随意的视频认证,也可能成了别人破解账户的钥匙。
防护也不算复杂:
1、别把高分辨率正脸照随便往外扔,社交账号的查看权限要设好;
2、登录时尽量开多重验证,别只靠一张脸就进后台;
3、平台也得跟上技术,活体检测、动态验证不能偷懒。
技术没有对错,关键看拿它干什么,把AI当工具做创意是本事,用来撬锁骗钱,早晚得进局子。
发布于 山东
