“6岁儿子常常趁她不注意,看毛骨悚然视频”!警惕:惊悚AI玩偶视频入侵未成年人视野,平台回应
近日,一位母亲反映,她6岁的儿子,常常趁她不注意,用家人的手机,看一些让人毛骨悚然的视频:“一些拟人化的玩偶,被喂粪、肢解、扔进火锅,甚至上演玩偶妈妈食子的情节。”
记者调查发现,这类视频均为AI生成,通常被标注为“略向”(注:“略”同“虐”),主要围绕“anon犬、soyo狸、天素罗”三个拟人化角色,大量流传于抖音和哔哩哔哩两大视频平台,小红书、百度等平台也零星出现。多年来,邪典视频对少年儿童的侵扰,已被各界高度关注,但为何这些视频依然“花样翻新、屡禁不绝”?
11月底,记者接到网友来信,称在网络视频平台上出现大量以动画人物形象为原型的玩偶AI视频与图片,部分内容涉嫌呈现血腥暴力、低俗辱虐、恐怖等不当要素,并通过玩偶外观包装提升点击,且评论区出现“幼儿园儿童沉迷观看”等反馈。
根据线索,记者在哔哩哔哩和抖音两大视频平台确实发现大量相关视频,这类视频均为AI生成,有着类似定格动画的镜头风格,内容围绕三个拟人化的虚拟角色“anon犬、soyo狸、天素罗”,视频标题常标注为“略向”(注:即“虐向”)。据悉,“虐向”是中文网络用语,尤其在二次元、同人创作、短视频、AI生成内容等圈层中常见,用来描述以“施虐—受虐”关系为核心、带有痛苦、折磨、压迫、控制等元素的内容风格或情节走向。
▲“虐向”视频
在哔哩哔哩,一条名为“anon犬的观察实验(略向,慎入)”的视频热度颇高,截至12月2日,其播放量已达141万。视频内容显示,拟人化的anon犬和soyo狸沦为“实验对象”,遭受各种虐待情节。据不完全统计,仅在哔哩哔哩,此类视频就有至少数百条,在抖音平台也有上百条,小红书、百度等平台亦有零星出现。
在这些视频中,三个虚拟角色经历着各式各样的虐待。其评论区也时常出现“还不够虐”、“好想虐杀它们”等言论。记者还注意到,在哔哩哔哩的多个“虐向”视频播放页面中,出现了AI产品的商业广告。
通过评论区,记者联系到网友邓女士(化姓)。她讲述了自己6岁的儿子趁其不备,用家人的手机观看一些令人毛骨悚然的视频:“一些拟人化的玩偶,被喂粪、扔进火锅,甚至上演玩偶妈妈食子的情节。”邓女士表示,她曾在数个视频下留言批评制作者,但留言几乎都被删除。“我也不想让孩子完全不用手机,但这些内容又防不住。”这让她感到十分无奈和两难。
调查过程中,记者还体验到平台算法的推送机制:在观看多个“虐向”视频后,哔哩哔哩随即向记者账号的首页推荐了更多同类视频。若要完全屏蔽这类内容,在哔哩哔哩上需开启软件内的“未成年人模式”,在抖音上也可采用类似方法。
平台回应:
全面排查,从严管控
▲一条播放量超140万的“虐向”视频被锁定(限制观看)
针对上述“虐向”视频传播的问题
12月3日
哔哩哔哩和抖音相关负责人做出回应
哔哩哔哩方面表示,针对最新出现的涉嫌侵害引导的内容已展开全面排查,从严管控,目前在搜索及内容端已展开定向处置。
抖音方面表示,《抖音社区自律公约》鼓励用户创作积极、有价值的优质作品,对此类新型邪典内容坚决打击,已对相关违规内容予以下架处置。
记者注意到,截至发稿前,上述多个“虐向”视频在哔哩哔哩和抖音下架。
对于这件事,你怎么看?
评论区聊聊~