中文站

新西兰枪击案后,美国会要求发生极端事件必须“秒删”视频

上周,新西兰遭遇历史上最为黑暗的一天。

3月15日,极端思想的枪手冲进克莱斯特彻奇两家清真寺射杀,造成50多人遇难,并导致多人受伤。

新西兰清真寺枪击案震惊了全球。随后,新西兰总理Jacinda Ardern对枪击事件作做出了一系列的讲话,其中之一就是发出疑问——枪手为什么能够在Facebook和其他社交媒体平台上直播杀戮过程。

据国内媒体报道,枪手的直播视频看起来是用安装在头盔上的摄像机拍摄的,在Facebook发现并删除之前,枪手已经直播了17分钟的血腥屠杀。

也正是这17分钟的直播没有把好关,令视频、图像传播范围极广,在Twitter、Youtube、Instagram以及其他社交平台、即时通讯应用上广泛传播。这也使得外界质疑“Facebook”把关能力到底行不行,并指责这些社交媒体动作过于迟缓,没有采取足够措施阻拦用户上传相关文件。

新西兰总理Jacinda Ardern指出,社交媒体应该负起把关的最大责任。随后的言论显示,她开始认同澳大利亚总理Scott Morrison的看法——即现有针对社交媒体的法律还不够严厉。

Facebook表示,在事发后的24小时内,共删除150万段网民转发的相关影片,其中120万段在上传前被拦截。Facebook发言人还指出:“凡是赞扬、支持此次恐袭和袭击者的内容,一经发现,都被立刻删除。”Twitter则表示,他们有一个专门小组来应对这种严重、紧急的情况。谷歌、YouTube则在声明中表示,不良内容在他们的平台上无所立足,只要发现有,就会立即删除。”

对应的平台给出了答复,并采取了措施。有些人认为,事情应该就这么结束了,然而并没有。

本周二,美国众议院国土安全委员会主席Bennie G. Thompson给Facebook、Youtube等公司技术高管写了一封信,要求在3月27日就新西兰枪手在社交平台直播行凶过程作出回应,敦促他们更快速删除恐怖主义视频,并简要介绍他们的回应和计划,以防止类似事件在未来发生。收到这些信的高管包括,Facebook CEO Mark Elliot Zuckerberg,YouTube CEO Susan Wojcicki、Twitter CEO Jack Dorsey,以及微软 CEO Satya Nadella。

Bennie G. Thompson表示,这些公司必须优先投入资源和注意力,应对这些有毒和暴力的意识形态。“如果你不愿意这样做,国会将考虑制定相关政策,确保恐怖内容不会在你们的平台上传,国会也会研究其他国家的做法先例。”

Bennie G. Thompson强调:“你必须做得更好。”

实际上,恐怖内容在社交平台上得到直播并非首次发生。2017年,泰国的一名父亲在Facebook直播了杀害女儿的视频,当时Facebook花了一天多的时间才清除掉视频。也是在同一年,美国俄亥俄州的Cleveland市,一名男子直播枪击他人。

如果无法在第一时间有效遏制暴恐内容在社交平台上传播,就会成为恐怖分子的帮凶,危害巨大。它能制造仇恨、偏见,让极端主义不断蔓延。其次,破坏社会稳定,让人效仿使用暴力去解决问题。更重要的是,暴恐内容在社交媒体上传播对未成年人伤害最严重,让他们出现很多不正常的心理和行为表现,害怕周围的一切人和事物,恐惧日常的社会交流。

为了打击恐怖主义,中国早在2015年12月27日就发布了《中华人民共和国反恐怖主义法》,后又于2018年4月27日进行了修改发布。

阻止恐怖主义在互联网空间蔓延,《中华人民共和国反恐怖主义法》也对互联网服务提供者进行了规范:

1.未依照规定为公安机关、国家安全机关依法进行防范、调查恐怖活动提供技术接口和解密等技术支持和协助的;

2.未按照主管部门的要求,停止传输、删除含有恐怖主义、极端主义内容的信息,保存相关记录,关闭相关网站或者关停相关服务的;

3.未落实网络安全、信息内容监督制度和安全技术防范措施,造成含有恐怖主义、极端主义内容的信息传播,情节严重的。

有以上情形的,将处以罚款,情节严重的直接负责人和其他直接责任人员将处以拘留。

《中华人民共和国反恐怖主义法》九十三条,又补充规定:违反本法规定,情节严重的,由主管部门责令停止从事相关业务、提供相关服务或者责令停产停业;造成严重后果的,吊销有关证照或者撤销登记。

从这来看,发生极端事件做到“秒删”视频,以及建立信息内容监督制度不仅仅是Facebook、Twitter、Youtube等平台的责任,国内的内容平台也是必须做到的。

那如何快速构建符合业务需求的内容安全体系?网易易盾内容安全专家提出4条建议: 

1、做好事前防御: 联动用户账户注册保护和登录保护的反作弊手段,从源头发现并拦截有害信息发布者;

2、加强实人认证:针对用户分级管理,加强实人认证,提高有害信息发布者的门槛,内容发布全流程可管理、可追溯;

3、应用智能手段:有些不良信息发布者也有一定概率是正常用户,这时就要及时更新或引进第三方的文本、图片、音视频等内容智能检测技术,欲善内容安全其事,先利智能技术之器;

4、建立规范体系:产品内容安全涉及技术、政策、运营、审核等多团队,产品长期发展需及时建立相应的内容安全管理机制、应急处理机制。

在最后,网易易盾内容安全专家还指出,中小企业应该专注于主赛道——业务的快速发展和创新,不要浪费机会成本。像一些持续投入的非核心业务,尽量交给第三方专业的内容安全服务,比如说网易易盾。

本文素材援用自:

[1]美国会要求四大社交网络:发生极端事件必须秒删视频,腾讯科技;

[2]Facebook等科技公司高管被国会要求就新西兰枪手直播案作出回应,CnBeta;

[3]脸书、推特、谷歌等正全力删除新西兰恐袭视频及其他有害内容;澎湃新闻;