搜狐新闻 25-12-07 19:45
微博认证:搜狐新闻官方微博

【惊悚AI玩偶视频入侵未成年人视野 平台回应】近日,一位母亲向记者反映,她6岁的儿子,常常趁她不注意,用家人的手机,看一些让人毛骨悚然的视频:“一些拟人化的玩偶,被喂粪、肢解、扔进火锅,甚至上演玩偶妈妈食子的情节。”记者调查发现,这类视频均为AI生成,通常被标注为“略向”(注:“略”同“虐”),大量流传于抖音和哔哩哔哩两大视频平台。多年来,邪典视频对少年儿童的侵扰,已被各界高度关注,但为何这些视频依然“花样翻新、屡禁不绝”?

11月底,媒体接到网友来信,称在网络视频平台上出现大量以动画人物形象为原型的玩偶AI视频与图片,部分内容涉嫌呈现血腥暴力、低俗辱虐、恐怖等不当要素,并通过玩偶外观包装提升点击,且评论区出现“幼儿园儿童沉迷观看”等反馈。

在哔哩哔哩,一条名为“anon犬的观察实验(略向,慎入)”的视频热度颇高,截至12月2日,其播放量已达141万。视频内容显示,拟人化的anon犬和soyo狸沦为“实验对象”,遭受各种虐待情节。

据不完全统计,仅在哔哩哔哩,此类视频就有至少数百条,在抖音平台也有上百条,小红书、百度等平台亦有零星出现。

多个“虐向”视频播放页面中,出现了AI产品的商业广告。评论区时常出现“还不够虐”、“好想虐杀它们”等言论。

通过评论区,记者联系到邓女士。她6岁的儿子趁其不备,用家人的手机观看上述视频。邓女士表示,她曾在数个视频下留言批评制作者,但留言几乎都被删除。“我也不想让孩子完全不用手机,但这些内容又防不住。”

调查过程中,记者还体验到平台算法的推送机制:在观看多个“虐向”视频后,平台随即推荐了更多同类视频。

记者联系到视频制作者,他们均在今年10月中下旬开始,用AI工具生成 “虐向”视频。

小付称是看了其他人制作的“虐向”视频,自己觉得有趣,于是入坑,“定格动画算不上新鲜事物,但AI大大简化了制作难度。”

为什么要做这样的视频?当记者询问时,小付认为这是在批评他,称这个世界上每一枚硬币都有正面和反面,不能完全否定反面的存在,同时透露自己刚刚被举报,心情很差;小灵则说,做“虐向”视频完全是他的自由,无需理由。

如何评价这类视频对小朋友的影响?小付表示,他已在视频标题中提醒“略向慎入”。小灵则说,首先他并未特意将这类视频推送给小朋友;其次小朋友看了视频,也无法在现实中去虐待本就不存在的虚拟玩偶。

对此,有心理教师表示,这些视频的核心是对拟人化角色进行系统性的、详细的虐待、侮辱和暴力展示。其目的不是为了调节情绪,而是刻意制造猎奇、恐怖与不适感,满足极少数人的不良心理需求,甚至可能带有诱导、教唆等性质。

“喂粪、肢解、食子”等内容违背伦理和公序良俗,且这类视频还有一定的成瘾性,因为其内容表现出一种强烈的刺激,会在大脑中建立“奖励的循环”,让人产生不断的渴求。

业内人士建议,家长应首先杜绝孩子继续观看此类视频,将相关APP设置为青少年模式,观察孩子的情绪与行为反应,必要时寻求专业帮助。家长要以温和、开放的态度与孩子沟通,理解孩子的感受和动机,创造一个孩子敢说真话、不怕责备的沟通环境。

针对上述“虐向”视频传播的问题,哔哩哔哩方面表示,已展开全面排查,从严管控,目前在搜索及内容端已展开定向处置;抖音方面表示,对此类新型邪典内容坚决打击,已对相关违规内容予以下架处置。更多详细内容请查看原文>> http://t.cn/AXy0Iqxl