中文站

整治「网暴」,国家出手了

网络暴力事件已经逐渐变成互联网高速发展的一个显著特征。在社交媒体日益发达的背景下,“法不责众”的大众心理作祟下,任何网暴事件都可以在短时间内迅速形成。

“直播时突然喝下农药的某网红”、“寻亲被生母拉黑遭网暴的刘学州”、“遭遇丧子之痛后坠楼的武汉母亲”……“网络暴力”“网络谣言”的“参与”,绝对是酿成这些悲剧事件的重要因素。并且,网络暴力经常以各种各样的方式呈现,成群结队,肆意妄为,有的甚至打着“公平正义”的旗号,伪装成“热心肠”“追寻真相”等,借势而下,防不胜防。在网暴事件成为网络热点,再到酿成悲剧的过程中,甚至连“吃瓜”都有可能成为帮凶。


如今,国家即将正式出手,全面整治网络暴力。

2024年6月14日,国家互联网信息办公室联合公安部、文化和旅游部、国家广播电视总局共同发布《网络暴力信息治理规定》,该规定自2024年8月1日起施行。

01 《网络暴力信息治理规定》8月1日起施行

该规定作为一项新出台的政策法规,我们应该注意哪些事项呢?网易易盾网络生态治理研究专家为我们带来以下解读:

习近平总书记高度重视网络生态建设,强调“网络空间是亿万民众共同的精神家园”,“健全网络综合治理体系,推动形成良好网络生态”。中共中央、国务院印发的《新时代公民道德建设实施纲要》明确要“反对网络暴力行为”。全国两会期间,多名代表委员强烈呼吁加快出台反网络暴力针对性立法,关于整治网络暴力的建议提案获得人民群众广泛响应。

为治理网络暴力信息,营造良好网络生态,保障公民合法权益,维护社会公共利益,四部门联合出台《网络暴力信息治理规定》(下文简称《规定》),在《网络安全法》《个人信息保护法》《未成年人网络保护条例》等法律法规先后出台并作出相关制度设计的基础上,进一步建立网络暴力信息治理制度体系,从明确网络信息内容管理主体责任、建立健全预防预警机制、规范网络暴力信息和账号处置、强化用户权益保护、加强监督管理、明确法律责任等方面,提升治理效能,为加强网络暴力信息治理提供有力支撑。

①关于网络暴力的范围

网络暴力信息,是指通过网络以文本、图像、音频、视频等形式对个人集中发布的,含有侮辱谩骂、造谣诽谤、煽动仇恨、威逼胁迫、侵犯隐私,以及影响身心健康的指责嘲讽、贬低歧视等内容的违法和不良信息。

②关于网络暴力信息预防预警的要求

《规定》对网络暴力信息预防预警提出了明确要求。

一是规定网络信息服务提供者应当在国家网信部门和国务院有关部门指导下细化网络暴力信息分类标准规则,建立健全网络暴力信息特征库和典型案例样本库,加强对网络暴力信息的识别监测。

二是要求网络信息服务提供者建立健全网络暴力信息预警模型,综合事件类别、针对主体、参与人数、信息内容、发布频次、环节场景、举报投诉等因素,及时发现预警网络暴力信息风险。

三是规定网络信息服务提供者发现存在网络暴力信息风险的,应当及时回应社会关切,引导用户文明互动、理性表达,并对异常账号及时采取真实身份信息动态核验、弹窗提示、违规警示、限制流量等措施;发现相关信息内容浏览、搜索、评论、举报量显著增长等情形的,还应当及时向有关部门报告。

四是规定网络信息服务提供者应当建立健全用户账号信用管理体系,将涉网络暴力信息违法违规情形记入用户信用记录,依法依约降低账号信用等级或者列入黑名单,并据以限制账号功能或者停止提供相关服务。

③关于网络暴力信息处置的要求

《规定》明确,网络信息服务提供者发现涉网络暴力违法信息的,或者在其服务的醒目位置、易引起用户关注的重点环节发现涉网络暴力不良信息的,应当立即停止传输,采取删除、屏蔽、断开链接等处置措施,保存有关记录,向有关部门报告。发现涉嫌违法犯罪的,应当及时向公安机关报案,并提供相关线索,依法配合开展侦查、调查和处置等工作。

④关于用户权益保护的要求

《规定》明确了网络暴力信息治理中的用户权益保护要求。

一是建立健全网络暴力信息防护功能。要求网络信息服务提供者提供便利用户设置屏蔽陌生用户或者特定用户、本人发布信息可见范围、禁止转载或者评论本人发布信息等网络暴力信息防护选项。

二是完善私信规则。要求网络信息服务提供者提供便利用户设置仅接收好友私信或者拒绝接收所有私信等网络暴力信息防护选项,鼓励提供智能屏蔽私信或者自定义私信屏蔽词等功能。

三是告知用户采取防护措施。明确网络信息服务提供者发现用户面临网络暴力信息风险的,应当及时通过显著方式提示用户,告知用户可以采取的防护措施。

四是及时保存证据。规定网络信息服务提供者发现、处置网络暴力信息的,应当及时保存信息内容、浏览评论转发数量等数据;应当向用户提供网络暴力信息快捷取证等功能,依法依约为用户维权提供便利。

五是及时受理处理投诉、举报。要求网络信息服务提供者在服务显著位置设置专门的网络暴力信息快捷投诉、举报入口,公布处理流程,及时受理、处理公众投诉、举报并反馈处理结果;应当优先处理涉未成年人网络暴力信息的投诉、举报,发现涉及侵害未成年人用户合法权益的网络暴力信息风险的,应当按照法律法规和本规定要求及时采取措施,提供相应保护救助服务,并向有关部门报告。

⑤关于部门监督管理工作机制

《规定》明确,网信部门会同公安、文化和旅游、广播电视等有关部门依法对网络信息服务提供者的网络暴力信息治理情况进行监督检查,建立健全信息共享、会商通报、取证调证、案件督办等工作机制,协同治理网络暴力信息。公安机关对于网信、文化和旅游、广播电视等部门移送的涉网络暴力信息违法犯罪线索,应当及时进行审查,并对符合立案条件的及时立案侦查、调查。

⑥网络信息内容管理主体的合规义务责任


02 网暴,一场没有幸存者的洪流

2024年5月,一位名叫“胖猫”的男子因感情问题在重庆跳江身亡,网上随即出现大量针对其女友谭某的人肉搜索、造谣、谩骂等行为。“胖猫”姐姐刘某先后在网上公布大量涉及谭某的个人隐私信息,并通过联系他人代写文案、购买流量等方式故意误导舆论,导致谭某被网友攻击辱骂,在网上还有多起威胁谭某人身安全的言论出现。

经警方查明,“胖猫”和谭某属于正常恋爱交往经济上互有往来,不构成诈骗犯罪。而刘某的行为或涉嫌构成侵犯公民个人信息罪和非法利用信息网络罪,警方表示,将根据进一步调查结果,依法作出处理。

本次事件中,各地公安网安部门共发现、处置涉及本事件的网络谣言、网络暴力400余条,在一些自媒体营销号的恶意引导、部分网民情绪失控等因素影响下,导致“胖猫”女友谭某遭受网络暴力侵扰,并且成为社会热点。

而在这场如山呼海啸般的洪流中,没有一位幸存者。

谭某遭受网暴困扰,现实生活受到严重影响。

刘某煽动公众情绪,引导网络暴力,需要承担法律责任。

公众,或者说这次网暴事件的每一位参与者,在反转与再次反转之间被牵着鼻子走,除了收获戾气以外,毫无所得。

中国传媒大学人类命运共同体研究院发布的《网络暴力现象治理报告》认为,网络暴力是由语言和各种各样的信息所营造、裹挟、助推的“软暴力”。同时该报告指出,伴随网络环境变化,网暴发生的场景在不断泛化,网暴受害者对象逐渐扩大化。


该报告还提到:

“普通人正在受到越来越突然,越来越直接,越来越显微,越来越猛烈的攻击。遭受攻击不是因为行为完全失范,而是因为经不起显微镜下的仔细观察。就算网络空间的记录经得起祖宗八代式地刨问,但也可能因为极其细小的过错而承受质疑者道义车轮的无情碾压。”

在互联网中,我们每个人是参与者,又是推动者。面对网络暴力,都不应该选择成为那个“帮凶”。

对于此次《规定》,网易易盾网络生态治理研究专家特别指出:

“按《规定》要求,网络平台作为主要治理主体,包括互联网新闻信息服务提供者、网络论坛社区和网络群组的建立者和管理者、网络信息内容多渠道分发服务机构、用户等相关主体应当采取预防措施和承担防控义务。对此,网易易盾依托于网易二十多年的技术沉淀与传媒行业的深厚积累,在网络舆论的风险控制和平台不良内容的监测管理上有丰富的实践经验,可以通过舆情预警、建设【人工+AI+举报】三级审核流程、建立审核员培训制度维护平台内容的生态治理和风险管控,有效减少平台不良言论,控制网络暴力的影响力和危害性,帮助构建事前、事中、事后全链条治理的方案。”