中文站

后真相时代的网络暴力治理何去何从?

我们身处群体理性极度缺失的后真相时代。所谓“后真相”,就是指真相和逻辑在信息传播的过程中被忽视,而情感煽动主导舆论的情形。强行谈理性,未免显得过于傲慢,有人说互联网就像一个克苏鲁古神,面对互联网克苏鲁的注视,几乎没有人能够保持理智,网民就如同蝼蚁一般被玩弄,SAN 值狂掉,无处可逃,唯有等待一把盘古的巨斧,劈开混沌。


克苏鲁:美国小说家霍华德·菲利普·洛夫克拉夫特创造的神话中所描述的神灵,被克苏鲁注视的人类会丧失理智。

最新政策观察

2022 年 4 月 24 日,中央网信办部署开展“清朗·网络暴力专项治理行动”,对互联网平台网络暴力的全链条治理作出具体有力的指示。总体要求如下:

一是建立健全识别预警机制,进一步细化网络暴力信息分类标准,强化行为识别和舆情发现,及时预警网络暴力苗头性、倾向性问题。

二是建立健全网络暴力当事人实时保护机制,调整私信功能规则,及时过滤“网暴”内容,强化“一键防护”等应急保护措施,建立快速取证和举报通道,加大弹窗提醒警示力度,加强重点群体救助保护。

三是严防网络暴力信息传播扩散,以社交、直播、短视频、搜索引擎、新闻资讯和榜单、话题、群组、推荐、弹窗等环节为重点,及时清理处置涉及网络暴力的评论、弹幕等内容。

四是加大对违法违规账号、机构和网站平台处置处罚力度,针对首发、多发、煽动和跟风发布等不同情形,分类处置网络暴力相关账号,连带处置违规账号背后 MCN 机构,严肃问责处罚失职失责网站平台,会同有关部门依法追究相关人员法律责任。

五是强化警示曝光和正向引导,及时公布典型案例处置情况,推动权威机构和专业人士友善评论、理性发声。

国家在行动

在国家网信办开展“清朗·网络暴力专项治理行动”之前,近两年我国对网络暴力的治理行动也从未停歇。

2021 年 9 月,国家网信办发布《关于进一步压实网站平台信息内容管理主体责任的意见》。一些平台在防范网络暴力行为方面,还存在责任认识不充分、角色定位不准确、履职尽责不到位、制度机制不完善、管理操作不规范等问题,一定程度导致违法和不良信息禁而不绝。《意见》系统提出网站平台履行信息内容管理主体责任的重点任务,包括把握主体责任内涵、完善平台社区规则、加强账号规范管理、健全内容审核机制等。

2021 年 10 月,国家网信办就《互联网用户账号名称信息管理规定》公开征求意见,征求意见稿第三章第十二条提出,“互联网用户账号服务平台应当以显著方式,在互联网用户账号信息页面展示账号 IP 地址属地信息。境内互联网用户账号 IP 地址属地信息需标注到省(区、市),境外账号 IP 地址属地信息需标注到国家(地区)。”公开 IP 属地的动作,让试图煽动网络暴力、造谣传谣、带节奏、蹭热度的群体和个人无所遁形。

2022 年初,中央网信办开展了为期 1 个月的“清朗·2022 年春节网络环境整治”专项行动,其中重点整治的五个方面任务,排在首位的就是“网络暴力、散播谣言等问题”,包括借疫情、社会热点事件等挑动网民对立,进行人肉搜索、辱骂攻击等网络暴力行为。

2022 年全国两会上,最高人民法院工作报告强调:“对侵犯个人信息、煽动网络暴力侮辱诽谤的,依法追究刑事责任。”最高人民检察院工作报告强调:“从严追诉网络诽谤、侮辱、侵犯公民个人信息等严重危害社会秩序、侵犯公民权利犯罪”。网络虚拟空间,依法治理要实,治理网络暴力、清朗网络空间是其中的重要内容。

全国政协委员、河南科技大学副校长魏世忠在全国两会上建议,在进一步完善法律制度强化互联网平台管理责任的同时,检察机关要加大对严重危害社会的网络暴力行为的查办力度,充分发挥立案监督、提起公诉、检察公益诉讼等职能作用,多措并举遏制网络暴力。

2022 年“清朗”发布会上,国家网信办网络综合治理局局长张拥军表示,冬奥会期间针对攻击、辱骂谷爱凌、苏翊鸣等运动员、教练员等网络暴力行为,国家网信办也采取了措施,惩戒了不法行为,取得了一些效果。今年以来,累计清理相关有害信息 87.9 万条,处置违法违规账号 4.1 万余个。

易盾建议

基于信息生命周期理论,网络舆情演化可分为四个阶段: 潜伏期、爆发期、持续期和消退期。网络舆情在传播过程中,引来公众的参与和媒体的推动。在网络空间中,敏感信息的传播和扩散速度远快于普通信息,网民不同的道德观念及信息甄别能力互相碰撞,在各种力量的汇集和推动下,普通的网络舆情事件就会演化为网络暴力事件。

网络暴力的“全链条”治理,即是伴随网络暴力及系列舆情发酵各个阶段的治理。在网络暴力的潜伏期,要建立健全识别预警机制;在网络暴力的爆发期和持续期,要建立健全网络暴力当事人实时保护机制,严防网络暴力信息传播扩散;在网络暴力的消退期,要加大对违法违规账号、机构和网站平台处置处罚力度,强化警示曝光和正向引导,及时做好复盘和反思,追踪事件的长时间进展和多方面影响。

众口铄金,积毁销骨。网络暴力带来的现实危害不容小觑,网络暴力的治理行动刻不容缓。

盘点近期的网络暴力事件

何为网络暴力?目前尚无明确界定,更多的是从局部角度进行归纳,如仇恨言论、虚假消息、暴恐言论等。从以下的典型案例中,网络暴力的面貌将变得更具象化。

案例一:#冬奥会网暴事件#

运动员、明星是被网络暴力的“主力军”,粉丝表达极易失控,网络暴力也就随之而来。北京冬奥会期间,有花滑运动员因比赛接连失误,被网友杜撰经历,对其进行群体式的语言攻击和辱骂。

案例二:#寻亲男孩网暴事件#

网络暴力也发生在普通人身上,“网络暴力”常常把他们逼上自杀之绝路。2022 年 1 月 24 日,寻亲男孩刘学州因网络暴力服药自杀身亡,并留下近万字的遗书。遗书中,刘学州讲述自己从出生至今的悲惨遭遇,因亲生父母颠倒黑白导致他被网暴,有网友质问他为什么啃老,也有网友称其“炒作”“立人设”……网暴者的谩骂和指责,最终将刘学州逼上了绝路。

案例三:#悼念亲人遭网暴事件#

每个突发事件的出现,总会伴随着各种各样的讨论,其间不少键盘侠一言不合就开撕。“3·21”东航 MU5735 航空器飞行事故发生后,有罹难者家属发布视频缅怀亲人,被部分网民指责其“蹭热度”,这名家属甚至遭受了持续数日的网络暴力,对他们造成二次伤害。

案例四:#网暴新冠患者事件#

国内新冠肺炎疫情形势依然严峻,伴随着确诊病例流调信息的公开,许多患者在遭受身体痛苦的同时,还要遭受个人隐私泄露、谩骂攻击等网络暴力带来的精神压力,甚至还出现了上海女子给跑腿打赏 200 元被网暴跳楼的悲剧。

近来,我国网络暴力事件层出不穷,从这些案例中,网络暴力的涵义逐渐清晰。网民在网络上发表具有诽谤诬蔑、侵犯名誉和煽动性的文字、图片、视频的行为,对受害者进行心理上的伤害,则已经构成网络暴力。借助网络的虚拟空间用语言文字对人进行伤害与诬蔑,已然成为一个突出的社会问题。

网络暴力的新型表现形式

值得注意的是,新型网络暴力不断涌现。网络暴力早已从过去单纯的“屠版”、文字辱骂演变成现在的图文音视频全方位轰炸,甚至存在产业化的趋势。《半月谈》曾于 2020 年 7 月在《更新“武器库”,运作假舆情!新型网络暴力形成一门黑产生意》一文中详细报道了对网暴黑产的调查结果,结合近两年典型的互联网群体极化事件,网络暴力的新型表现形式主要分以下五种。

1图片&音视频攻击

施暴者将受害者人脸制作成遗照,制作以肢解受害者、给受害者抬棺为主题的视频和画作,甚至将这些“作品”制作成周边,寄往受害者家中或发帖炫耀以达到恫吓目的。

2升级版的文字攻击

施暴者将侮辱性和煽动性极强的文字制作成“大字报”,结合传统的“屠版”方式,占领舆论阵地,带节奏呼吁其他网民声讨受害者。另一种是弹幕刷屏,施暴者将侮辱性字眼融入弹幕,塞满整个视频画面。

3私信轰炸

由于在公开平台发布辱骂或中伤言论可能被取缔账号乃至招致其他网民围攻,一些施暴者会通过私信形式谩骂、骚扰他人。

4反串

常见于两性话题和“饭圈”互撕,包括但不限于娱乐圈、体育圈、电竞圈。施暴者伪装成受害者或与受害者立场相同的人,之后发表大量有违常识、易犯众怒的言论,煽动网民对以受害者为代表的群体的偏见,达到污名化受害者群体的效果。

5人肉搜索

部分平台不重视保护用户隐私,致使受害者个人隐私泄露,施暴者借此组织大规模“人肉”,以维护自认为伟大的“正义”。

易盾解决方案

当前立法的趋势显示,治理权逐渐下沉至互联网平台企业,由平台承担主要治理责任,这也符合“问题制造者就是问题解决者”的基本法理。

不过很多情况下,网络暴力蔓延背后存在网络黑产或幕后推手的恶意引导。当前,网络黑色产业链以人工和自动工具结合的方式避开了网络平台规定及风险,通过批量注册账号,以“水军”等形式发布非理性、违法的言论,令治理更具复杂性。对此,易盾结合网络暴力的发生方式,借助于技术手段,为互联网平台企业提供更科学的治理模式。

第一层:内容审核。平台需要过滤显而易见的违法信息,可通过大数据与人工智能分析,自动化发现网暴言论及其谐音变种,加强谩骂、血腥、恐怖类的文本/图片的 AI 模型识别能力,且可提高特殊时间节点的审核效率,助力平台建立完善的审核能力。

此外,易盾提供成熟的人工审核服务,由专业的内容安全审核团队,人员持证上岗,基于机器智能检测,提供全天候的人工内容审核支持,搭配智能审核系统,助力企业人审效率提速数倍。

第二层,舆情监测。提升社交平台舆情监测能力,对社会大热事件与突发事件能够及时获取,及时研判,及时制定方案。易盾提供安全舆情服务,反馈丰富即时的安全舆情信息,为企业提供全年舆情日历,舆情专家全天候在线解读,帮助企业做好风控规划。

第三层,举报受理。平台也赋予用户关闭私信功能、拉黑或举报发布网暴言论者的账号。易盾提供举报审核解决方案,灵活支持各场景举报内容提交,按风险程度快速审核判定举报,简单高效。

第四层,账号管理。平台可对频繁发布谩骂、四处引战的账号进行禁止发言或封号,允许被禁者经过一定期限后,重新申请监管下的账号使用权,进而形成引导从善机制。易盾提供用户行为图谱分析,多维度发现用户的过界异常行为并统计反馈,有利于打击黑灰产培育的“水军”用户,限制部分用户肆无忌惮地谩骂。

传统方式花费大量的人力、物力,易盾通过 AI 内容审核、举报受理、舆情监测、账号行为等方式,助力平台构建“平台管用户,政府管平台”的双层监管模式。

参考文献

[1]更新“武器库”,运作假舆情!新型网络暴力形成一门黑产生意 作者:半月谈

[2]网络暴力事件演化与预测研究 作者:王楠; 吕欣隆

关于易盾 

网易易盾是网易集团旗下一站式数字内容风控品牌,依托网易 20 多年的先进技术沉淀和一线实践经验,作为国内领先的数字内容风控服务商,为面向数字化业务的客户提供专业可靠的安全服务,涵盖内容安全、业务安全、移动安全三大领域,全方位保障客户业务合规、稳健和安全运营。目前,网易易盾已服务超 40 万开发者与数千家付费客户,其中不乏人民网、外交部、华泰证券、中信银行、OPPO、vivo、滴滴、知乎、B 站等知名企事业单位。