近期,“外国山海经”“AI山海经”等AI“魔改”(指利用AI技术对原作品进行大幅或颠覆性改编的行为)内容在网络上暗流涌动。据媒体报道,一些包含血腥暴力、恶搞低俗内容的“邪典动画”正借AI技术卷土重来。部分AI“魔改”内容还被制作成商品,在电商平台堂而皇之地售卖。这些乱象着实值得警惕。
近年来,随着相关政策的不断完善,曾经的“邪典视频”已得到较好治理。然而,在AI技术的“加持”下,更加隐蔽、更具伤害性的“邪典视频”再次登台亮相。据报道,有的动画看似是卡通风格,实则充斥着残害肢体、高空坠落等血腥暴力内容;有的视频看似是对经典的二次创作,实则是对经典和传统进行恶搞、歪曲和污名化。这些内容主要将目标瞄准了身心尚在发育成长的孩子们,其危害无异于给孩子们的心灵“投毒”,严重误导他们的三观、人格与文化认知。如果放任此类AI“邪典视频”继续生产传播,后果将不堪设想。

AI“邪典视频”的危害显而易见,那么它为何会卷土重来,为何还会有一些力量在推波助澜呢?背后其实是相关方的利益盘算。部分创作者为了博取关注、赚取流量,不惜制作无底线内容;一些短视频平台和社交平台,在商业利益的驱使下,降低算法推荐的道德门槛,放任此类视频大肆传播。更令人担忧的是,制作此类动画视频价格极其低廉,还有“一键生成”式教程,这进一步助长了其快速传播。这些有毒内容甚至已从线上蔓延至线下,诸如盲盒、积木等相关商品热销,形成了一条完整的产业链。在手机上疯狂传播的AI“邪典视频”,背后实际是制作、销售、传播等环节的层层失守,是在助纣为虐。AI本是科技进步的产物,但别有用心者却将其异化为赚黑心钱的工具,将商业利益置于未成年人身心权益之上,借机给孩子们“投毒”。
守护未成年人的身心健康,家长和学校需要强化对孩子的陪伴帮助、教育引导,提升孩子们的技术素养,让他们能够正确认识和运用AI技术。同时,给孩子们营造一个健康清朗的网络环境也不可或缺——监管部门需加大执法力度,严厉打击制作传播“邪典”内容及销售相关商品的行为,斩断利益链条;网络平台应承担起主体责任,优化内容审核机制,及时下架“有毒”内容的制作教程,阻断传播路径,同时完善青少年模式,为青少年健康上网保驾护航。
各方协力,才能对此类有毒内容拉起“警戒线”,构筑“防波堤”。唯有平台守责、监管发力、家校联动,才能有效清除AI“邪典视频”等精神“毒药”的影响,避免其侵蚀未成年人的心智,让技术进步真正助益孩子们健康成长。