中文站

网络演出剧(节)目内容安全,十问十答!

近日,文化和旅游部印发《文化和旅游部关于规范网络演出剧(节)目经营活动 推动行业健康有序发展的通知》(下文统称《通知》),明确网络演出剧(节)目管理要求。

本期,特别邀请网易易盾业务合规专家罗文广为大家带来深度解读,谈谈网络演出剧(节)目等直播平台如何加强内容自我监管?

Q1《通知》制定的背景是什么?

近年来,受疫情影响,部分单位选择以直播或者录播形式通过互联网提供演唱会等演出剧(节)目,创新了演出剧(节)目形式,丰富了互联网文化业态,较好地满足了人民群众精神文化需求。

但新业态与传统营业性演出存在明显区别,无法完全按照线下营业性演出进行管理。同时,新业态也存在安全隐患,急需明确相关管理要求。在此背景下,文化和旅游部通过深入调研、广泛征求意见,起草并印发了《通知》。

本次的《通知》作为规范性文件,是以2011年文化部发布的部门规章《互联网文化管理暂行规定》为依据的的进一步具体规定,内容包括直播及录播节目的平台资质要求以及内容安全审核管理、延时直播等相关内容,对相关企业在落地相关法律法规要求的时候有着明确的指导性意义,对行业规范也有较大的影响。

Q2《通知》对网络演出剧(节)目提出了什么要求?

《通知》要求,采用直播方式提供网络演出剧(节)目的,应当采取延时直播方式播出,延时时长由企业根据内容安全实际需要自行设定。同时,安排专人对网络演出剧(节)目进行实时监管,发现内容有问题应当第一时间阻断并处置。

另外,《通知》规定,网络演出剧(节)目经营单位应当建立健全内容管理制度,配备适应内容审核工作需要的专业人员负责网络演出剧(节)目的内容管理,并加强对评论、弹幕等用户产生内容的实时监控。

Q3 什么是网络演出剧(节)目?

目前,网络演出剧(节)目主要包括以下几种形态:一是通过互联网直播境外举办的演出剧(节)目;二是通过互联网提供录制的演出剧(节)目音视频;三是专门为互联网传播制作的演出剧(节)目或者虚拟演出剧(节)目;四是其他通过互联网形式传播的演出剧(节)目。

Q4 对网络演出剧(节)目的内容提出了哪些要求?

网络演出剧(节)目不得含有《互联网文化管理暂行规定》第十六条规定的内容:(一)反对宪法确定的基本原则的;(二)危害国家统一、主权和领土完整的;(三)泄露国家秘密、危害国家安全或者损害国家荣誉和利益的;(四)煽动民族仇恨、民族歧视,破坏民族团结,或者侵害民族风俗、习惯的;(五)宣扬邪教、迷信的;(六)散布谣言,扰乱社会秩序,破坏社会稳定的;(七)宣扬淫秽、赌博、暴力或者教唆犯罪的;(八)侮辱或者诽谤他人,侵害他人合法权益的;(九)危害社会公德或者民族优秀文化传统的;(十)有法律、行政法规和国家规定禁止的其他内容的。

Q5 网络演出剧(节)目以及网络直播内容管理与审核难点在哪里?

目前网络直播内容管理与审核存在六大难点:

1. 低延时的问题,网络直播与电视直播的最大不同是网络直播往往需要同在线用户实时互动,网络直播审核第1大难点就是既要做好直播画面的内容审核,又要解决低延时的问题;

2. 直播弹幕的实时审核难,网络直播过程中往往会开通弹幕及语聊,增加用户互动体验;这样直播平台不仅要审核主播人员,还要对观众产生的 UGC 内容做实时审核;

3. 涉黄审核难,现在仍然有直播秀场类的主播通过衣服脱下去再马上穿上的秒录行为打“擦边球”,如果审核不到位,很难及时处理;

4. 企业及员工对网络安全法,广告法等法律法规及管理条例不清楚,缺乏全面认知,法律意识薄弱;

5. 企业没有内容安全审核技术积累,投入费用巨大。企业自己开发能力有限,自建系统功能单一、页面操作复杂等,无法高效辅助审核工作,严重影响业务发展步伐;同时审核人力成本日渐增高,企业负担愈发加大;

6. 黑灰产行业发展快速,频繁更新违规方式,各类奇招让人防不胜防,极大增加人工及机器审核难度;UGC 产量增大,而人工审核效率低导致内容滞后性严重,影响平台发展;另外,企业内部专业审核人才缺乏,审核策略制定简单,无法及时匹配复杂业务规则与政策的快速变更。

Q6 网易易盾如何助力网络演出剧(节)目以及网络直播内容管理?

网易易盾提供人机协同的智能全链路审核平台,利用网易专业 AI 机器检测辅助人工审核,覆盖内容全生命周期的审核链路,大幅提升审核效率、节省人工成本,准确度高达 99.99%。

同时,网易易盾提供内容安全培训课程,提高人员法律安全意识,覆盖更全面的法律法规知识体系,解决平台越来越难的内容安全管理问题,帮助企业搭建网络直播内容安全审核管理体系,符合法律法规要求,共同建设清朗网络空间。

Q7 网易易盾支持对哪些内容进行管理?

网易智能全链路审核平台支持网络直播场景中如昵称、评论、弹幕等文本内容,头像、照片等图片内容,网络直播、主播等的音频内容、视频内容进行合规性审核。

同时,对违规内容,进行色情/涉政/暴恐/违禁/广告/广告法/谩骂/灌水等多类型自定义标签。

另外,对于网络直播中涉及的音视频内容,网易易盾智能审核平台支持单人单屏同时监控最大 38 个直播间,用户、热度关联分析推送,实时智能排序,嫌疑直播间重点监控直播间流媒体(视频+音频)监控,实时断流/警告。

Q8 网易易盾如何保证人审效果与质量?

网易易盾拥有一支 1500 人规模的人审团队,支持灵活增加或削减审核人力、支持定制调配审核人力,在杭州、衢州、洛阳、商丘4地具备异地容灾能力。

易盾团队人员经过专业培训,具备良好的专业素养,过硬的专业技能,审核人员持有《互联网内容审核职业技能等级证书》,团队多人入选电子学会专家讲师库,具备丰富的内容审核与培训管理经验。

网易易盾人审团队提供安全质检、安全巡检、安全培训、风控方案咨询、舆情顾问等多种服务,为网络直播平台绿色运营提供全方位安全防护。

此外,对于一些可预见的节日风险、突发事件风险,网易易盾提供专项的舆情解读与全链路监控服务。

Q9 网易易盾如何做到企业快速接入?

易盾内容安全审核平台覆盖文本、图片、音频、视频等全业务审核,可满足多部门多平台统一审核场景,而数据化的数据大屏实时查看有害信息分布情况,内容安全指标,把控安全风险;团队产出及质量指标量化,助力业绩考核。

初审 + 复审 + 质检等多重安全机制配置,企业可自定义审核流程和优先级,有效提升审核效率及准确度;支持自定义标签类型、标签级别及分组,核人员可同时进行内容风险审核操作及标签标注,便捷灵活。

网易易盾智能机审可以拦截 90% 垃圾内容,同步监控高危内容,实时聚类审核,从而及时发现、批量拦截相似有害信息。此外,人工审核结果反向促进模型提升,数据异常报警、出审超时报警。

Q10 网易易盾是否具备成熟的实践案例?

以国内某直播平台为例,作为国内大型的直播平台,直播中涉及大量音视频直播内容与用户弹幕互动消息,网易易盾提供直播音视频、用户资料等高风险场景。

网易易盾提供的机器巡检,高危人工审核方式,协助降低了 90% 人工量,发现问题时间缩短至 3 秒内。多轮、盲审、抽审模式,准确率提升 10%,内容审核效率提升高达 5 倍。

目前,网易易盾支持从内容上传、机器审核、人工审核、人工质检、数据分析、日志跟踪全流程审核。

此外,高效电视墙极速审核模式、全流程溯源的全链路智能审核服务和 10 大特征库及名单库灵活配置,客户可以通过自定义方式调整业务实际场景策略需求,加速审核效率。