当然微评 26-02-12 10:40
微博认证:知政观察团成员 头条文章作者

#知政观察团# 【#70岁奶奶迷上AI霸总##AI数字人账号围猎老年女性#】近日,有市民发文称,多个短视频平台上涌现出一批账号:它们以AI合成的“完美”男性形象示人,这些形象往往具备俊朗外貌、温和气质与贴心举止,通过精心编排的温情话术,专门向中老年女性用户发动“情感攻势”。这些账号会发布诸如日常关怀、情感倾诉等内容,逐步获取中老年女性用户的信任,进而诱导老年群体进入商品橱窗进行下单购物,甚至诱导她们提供个人隐私信息,如身份证号、银行卡号、家庭住址等,存在极大的信息安全与财产安全风险。对此,平台回应称,如用户发现疑似违规内容可进行举报,平台会及时进行核实处理,同时对于AI内容的标识将会不断优化改进,以帮助用户更好地区分真实内容与AI生成内容。
AI除了会产生“幻觉”(即生成一些不符合事实、逻辑混乱的内容),还可以编造“美梦”,为不法分子提供新的行骗手段。技术本身并无善恶之分,但一旦被坏人利用,就可能成为伤害他人的凶器。就此次短视频平台上的AI账号骗局而言,呈现出以下特点与应对要点:

一、AI助力骗术“升级”,中老年群体识别难度陡增
随着AI技术的飞速发展,其生成的内容愈发逼真,无论是人物形象、语音语调还是行为举止,都几乎可以达到以假乱真的程度。对于中老年群体来说,他们大多对新兴技术了解有限,缺乏辨别AI生成内容的能力,面对这些看似完美无缺的“虚拟人”及其精心设计的骗局,一眼识别的难度越来越大。不法分子正是利用了这一点,将AI技术作为掩护,肆无忌惮地实施诈骗行为,使得中老年群体在不知不觉中陷入陷阱。

二、精准把握心理需求,中老年人渴望关怀成“突破口”
骗术之所以能够得逞,关键在于它精准地把握了中老年人的心理需求。中老年人在生活中往往面临着子女不在身边、社交圈子逐渐缩小等问题,内心渴望被关注、被陪伴,希望与人多交流。不法分子正是抓住了这一心态,通过AI合成的“完美”男性形象,给予中老年女性用户无微不至的关怀和嘘寒问暖,让她们感受到久违的温暖和重视,从而放松警惕,心甘情愿地陷入骗局。这提醒我们,中老年人的情感需求不容忽视,需要家庭、社会给予更多的关心和陪伴。

三、多方协同共筑防线,有效应对AI骗局
应对这种利用AI技术实施的骗局,不能仅依靠单一方面的力量,而是需要多方共同努力,形成合力。首先,家庭成员应给予更多耐心陪伴,帮助长辈识别“完美人设”背后的套路,提醒不轻信、不转账、不透露验证码。其次,平台不能止步于“事后举报”,而应主动拦截异常账号,对AI生成内容施加强制且显眼的持续标识,对高频诱导私信行为进行风险弹窗警示。同时,公安、网信等部门需针对AI新型诈骗建立快速响应机制,将制作传播虚假人设、批量运营情感号的行为纳入黑灰产打击范畴,形成法律震慑,提高违法犯罪成本。

四、强化AI规范管理,确保技术向善发展
AI技术作为一把双刃剑,既可以为人类带来巨大的便利和发展机遇,也可能被不法分子利用,造成严重的危害。因此,必须要在规范和管理上加强,建立健全AI技术的研发、应用和监管体系,从源头上防止技术被滥用。加强对AI技术研发人员的伦理教育和法律培训,提高他们的责任意识和社会责任感,引导他们将技术应用于造福人类的领域。同时,加强对AI产品和服务的市场准入管理,对不符合安全标准和伦理要求的产品和服务坚决予以禁止,确保好东西不被错用,让AI技术真正成为推动社会进步和改善人类生活的积极力量。

技术本身是镜子,照出的是使用者的意图与社会的温度。当AI被用来编织谎言、收割信任,我们无法苛责每一位中老年用户“火眼金睛”,但可以通过更清晰的标识、更严格的管理、更温情的陪伴,让那些精心炮制的“美梦”在第一眼就露出破绽。这既是对数字弱势群体的保护,也是对整个社会诚信体系的修复。

发布于 北京