微信公众号

首页 > 动漫>产业·资本> “毒动画”:披着卡通外衣的“精神垃圾”

“毒动画”:披着卡通外衣的“精神垃圾”

来源: 人民网 2018-01-30 13:42:45
  • 评论:
  • |
  • |
  • 我要分享
    扫描二维码分享内容给微信好友和朋友圈

“毒动画”悄然流入国内,多个视频平台着手专项清理。对这些披着卡通外衣的“精神垃圾”,专家建议,视频平台方面,强化人工智能“算法”的同时应加强人工审核,以开设让家长完全放心的全人工过滤儿童视频精选频道;而家长也应该对孩子经由电子产品接触的媒体内容做到心中有数,别把孩子扔给“电子保姆”。

疲于“打地鼠”

筛查有难度

在西方,“毒动画”或称“艾莎门”,主要指视频分享网站YouTube上的儿童不宜视频。它们大多由成年人制作,以经典卡通形象诱使儿童点击观看,内容却包含血腥、暴力、色情或诡异情节。2013年,广受孩子们喜爱的迪士尼动画片《冰雪奇缘》女主角艾莎公主成为这类视频的主角,因而有人把艾莎与用以描述丑闻事件的后缀词“门”(gate)组成新词,即“艾莎门”(Elsa Gate)。试想一下,一个三四岁的孩子看到艾莎公主做开颅手术,血腥画面会给他留下什么样的心理阴影?

这些“精神垃圾”近一段时间来开始流入国内,一度进入视频网站儿童频道。更有甚者,包括动画及真人的“本土”视频已然出现,部分视频甚至有儿童出镜。全国“扫黄打非”办公室目前已部署深入监测和清查;同时,多个网站开始自查和清理相关内容。

“毒动画”通常在未获法律许可的情形下使用经典卡通形象,由匿名用户上传,内容粗制滥造。为进入搜索结果并引起用户注意,“毒动画”大多配以欢快音乐和儿童笑声,标题和描述也常包含卡通形象名称及“教育”“学习色彩”“童谣”等关键词,由上传者归入“卡通”或“教育”类别,与正常动画混杂在“儿童频道”中,除非家长“一陪到底”,粗看无法发现异样。更让家长担心的是,在社交网站或手机应用程序所含“算法”推波助澜下,只要点开类似视频一次,后续视频会源源不断推送至用户。

“‘艾莎门’欺骗性地让儿童、家长和管理工具相信它们是‘儿童友好型’内容,让人相当不安,”美国技术伦理学者戴维·瑞安·波尔格22日说,“儿童在观看他们喜爱的卡通形象作出猥亵或暴力行为后,可能遭受心理创伤。”

长期以来,技术企业尝试借助审核人员和人工智能算法筛查并删除儿童不宜视频。但是,这就像玩“打地鼠”游戏,要逐一打掉那些冒出头的不良视频,作业量相当大。“YouTube每分钟上传的内容达到300小时,一秒一秒地审查每部视频不可能,”波尔格说,“为简化流程,YouTube等主要平台结合使用人工智能工具、用户报告和版主。然而,不少家长可能会想当然地认为YouTube儿童频道等完全由人工挑选并审查,坏人正是利用这个漏洞,故意把不良内容标记为看似适合儿童的内容。”

潜藏利益链

网站需警惕

国外对于“艾莎门”的批评声最早出现在2016年年中,一年后它成为美国社交媒体“推特”上热门的主题标签。美国社交网站“红迪”(Reddit)创建“艾莎门”社区讨论平台,吸引数以万计用户参与。

不得不说,“毒动画”的恶意背后潜藏一条外人难见的利益链条。

视频网站业内人士说,YouTube等国内外视频网站通行规则是,只要视频点击达到一定数量,就可以在视频上附加“贴片广告”,上传者获得一定分成,网站自身同样可以获利。

争议中,一些广告商发现自身广告出现在“毒动画”上,与品牌定位相悖,开始暂停向YouTube投放广告。压力之下,YouTube总裁苏珊·武伊齐茨基去年12月宣布,将投入更多人力筛查视频内容。2018年,YouTube所属谷歌公司的内容审核人员将增至至少1万人,同时开发新的人工智能算法,与儿童安全机构合作。

YouTube一名发言人22日在电子邮件中声称:“过去几个月,我们有意识地采取措施,解决YouTube家庭内容视频面临的诸多新挑战,包括更严格执行我们的社区指南、对不当定位至家庭的内容‘去货币化’并采取年龄限制,同时把这些内容从YouTube儿童频道中删除。”

标准待调整

各方应协力

波尔格说,没有任何自动识别工具能做到百分百准确。由于以图像和音乐作伪装,“艾莎门”更难识别;所以,为净化视频内容,“我们需要负责任、积极响应的技术平台与家长和孩子齐心协力……一旦有内容被标记为具有攻击性,视频网站必须快速反应”。

他说,家长自然希望所有儿童频道的视频完全经由人工筛查,“YouTube依照人人都是内容创作者并能上传视频的想法构建,但可能会随时间推移发生变化”。“如果我是YouTube运营者,”波尔格说,“我会创建一些类似YouTube儿童精选的内容,完全人工策划和过滤,让家长完全放心。”

腾讯视频23日回应,打击“毒动画”,腾讯应用了音视频指纹、ES搜索等技术,以快速处置有害视频。“针对少儿内容,我们将重新制定审核标准和尺度,”腾讯视频表示,“我们将运用人工智能(AI)学习有害的视频样本,打击后续有害内容的上传和传播。”

明确做规矩

家长要知情

“艾莎门”之所以让家长格外恐慌,是因为“毒动画”混杂在正常儿童动画片中,且色情和暴力行为的主角涉及知名动画形象,隐蔽性更高。

心理咨询师高璇认为,“毒动画”虽然有蔓延趋势,但家长不必过于恐慌:首先,如果家中平时沟通氛围较好,孩子看到没有见过的画面时,通常会问家长“这是什么”,这可以引起家长警惕。第二,媒体中的暴力色情画面让孩子恐惧焦虑后,只要家长及时与孩子沟通,不会产生久远心理影响。第三,研究发现,媒体视频中的暴力行为,极少导致儿童出现模仿行为,不会直接增加受暴力和性犯罪者侵害的风险。

那么,如果发现孩子接触“毒动画”之类视频,家长应如何处置?

  ■ 注意孩子是否有恐惧情绪,多陪伴孩子,孩子晚上睡觉时可以留一盏灯;

  ■ 告诉孩子“如果遇到害怕的事情应该怎么做”,如调整呼吸、向父母倾诉,转移孩子对恐怖画面的注意力,同时教孩子应对恐惧的方法;

  ■ 带孩子欣赏美好画面,如画面优美的绘本和视频,多带孩子到户外游玩,以驱逐、替代丑恶画面给孩子留下的印象。

  ■ 丑恶视频可能会激起孩子的好奇心,让孩子“又害怕又想看”,所以家长需要态度严正地“立规矩”,明确告知孩子这类视频不能看,如同告诉孩子“不能撒谎”一样。

这一事件还给家长提了一个醒:对孩子平时使用电子产品和上网时做些什么,父母必须“心中有数”。在中国,很多家长把手机、平板电脑当成“电子保姆”,为“省事”而任由孩子自己玩这些电子装置,不检查和过滤视频和游戏内容。一些手机和网络平台,“就连最简单的低幼儿童游戏,玩的过程中也会弹出一些包含色情、暴力画面信息的广告”。

高璇认为,家长让孩子接触新媒体、包括看视频和玩游戏的前提是明确规则:除限制使用时间外,最重要的是“不能让孩子单独在自己的房间里玩,必须(让他们)在家长可以看到的场所,以便家长随时监控孩子接触的视频和游戏内容”。


 还想看更多动漫资讯、动漫新闻?请浏览文创资讯动漫频道 

文创资讯版权及免责声明:
1、凡本网注明“来源:文创资讯”的所有作品,版权均属于文创资讯,未经本网授权,任何单位及个人不得转载、摘编或以其他方式使用上述作品。
  已经本网授权使用作品的,应在授权范围内使用,并注明“来源:文创资讯”。违反上述声明者,本网将追究其相关法律责任。
2、凡本网注明 “来源:XXX(非文创资讯)” 的作品,均转载自其他媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其真实性负责。
3、如因作品内容、版权和其他问题需要同本网联系的,请在30日内进行。

※ 网站总机:400-928-7979,邮箱:wenchuangzixun@sina.com

last update:2018-03-07 18:15