中文站

直播内容安全护航方案上线,MCN坐上重获新生的合规快车



 风口的风控难题 

只需要将手机、镜头、麦克风、电脑简单组合,就能与全国乃至全世界的观众交流。直播是当前的一个热点话题,出圈3年以来,直播的发展喜忧参半。

一方面,受新冠疫情的影响,国内开启了“全面直播”时代,大量网红、明星加入直播大队,消费者在主播的直播间下单、娱乐成为一种新潮;另一方面,直播平台内容庸俗、低俗问题,早已不是新鲜事,内容生态难题成为所有直播平台绕不过去的困境。


据易盾统计,国家各部委机关在 2021 年就出台了近 22 个法律法规,开展了约 15 次监管专项行动。全年,监管封禁 7200 余名主播,处置账号 13.4 亿个,清理违法和不良信息 2200 万余条,下架应用程序、小程序 2160 余款。

究其背后的原因,主要是网络信息内容生态治理的意识淡薄,无法跟随监管要求及时指导播出。此外,在互联网技术前,直播互动性強,实时性高,大火的直播间拥有来自千万乃至上亿双眼睛的共同注视,观众随时传递意见反馈。这令传统的内容风控手段无法及时统筹头像、留言、弹幕、互动话术、主播动作等板块的内容。

直播创造了商机,刺激了网络新兴经济,但互联网平台企业在投入直播的时候,也别忘了安全风控。当头部主播因内容违规被无限期停播时损失巨大。

当下,网络直播的监管日益细化,防患于未然才能事半功倍。可以预见的是,直播的风控环节会越来越细致,未来更加注重深度精细化管理。

风波不断,MCN 与直播的风险何在?

直播业务环节多而杂,每个环节都可能引入风险。易盾将风险从“人-货-场”的链路出发逐一提示。主要表现为,“人”的把控从行为规范到认知培训转变;“货”的把控从质量筛选拓展到广告营销扩展;“场”的把控从整体直播间到细节板块。直播面临的合规问题主要有以下几个。


人    清朗网络意识不足,舆情应对处置机制不足

去年情人节期间,“让女性轻松躺赢职场”的内衣广告引发热议,文案涉嫌低俗,并被质疑女性歧视,影响恶劣。该广告删除前阅读量达到 125 万余次,最终被罚款 88 万元,对品牌形象造成巨大,消费者好感度下降明显。

电商带货考验着直播从业者的能力,尤其是对违规不良内容、法律法规、意识形态的认知。直播人员呈年轻化趋势,渴望创新与无拘无束,但在舆情分析、政策解析、审核机制、安全意识等方面严重不足。一言一行极易激化内容安全风险。MCN 机构亟须解决直播相关人员的安全意识淡薄问题,补充直播相关人员的专业培训。

货    广告合规,数字化营销不知规范

在直播间内,主播相当于产品的“广告代言人”,因此主播的具体行为还要承担“广告发布者”或“广告主”的责任。如果营销话术不规范,主播和电商直播平台也要承担相应的连带责任。

电商直播间内售卖产品跨越不同行业,从零食、母婴、化妆品到医疗等。难点在于不同行业的营销法规暗藏盲点,难以快速了解与吃透行业细则,容易在直播间内发生营销违规。

场    实况交互,忽略直播空间由多方共创

直播是 PGC 与 UGC 有机融合,只要一个环节出错,都将导致 MCN 机构的安全风控工作前功尽弃。直播间的物料与主播的内容输出由 MCN 机构与供应商联合制作,经过了多道环节把关,而诸如弹幕、评论、头像一类的板块由用户直接参与,在直播中即时产生。用户的发言难以控制,不良违规内容的发生概率高,突发事件多。

总之,内容安全方面一定要体系化建设避免单点的防御。

直播护航解决方案

面向直播行业的难题,易盾构建了一套自适应的内容安全体系。新的体系摆脱了以往单点防护的思路,基于 PPDR 模型,即以风险预测(predict)为起点、结合安全防御(prevent)、合规检测(detect)、事件响应(respond)等维度形成安全闭环。

风险预测    舆情组合拳,获取、传达、分析与应对有妙招

“互联网+”时代,社交和信息的发布以网络媒体平台为聚集地,舆情在此产生和传播。新媒体环境下,信息来源复杂且渠道多样,如从海量信息数据中精准发掘舆情是一项技术问题。

舆情获取:顺应时代趋势,易盾建立了丰富的舆情通道,包含官方渠道、技术渠道、共建共享渠道等,抓住当期与历史节点上要重点防护的风险对象,第一时间解读与传递舆情,帮助企业提前预防内容风险。

舆情传达:以 5 月份为例,易盾向企业客户同步近百起热点舆情。易盾自研舆情监测平台,通过舆情日历、舆情日报、舆情预案三大方向,让企业有效掌握新媒体环境下的舆情,做到 24 小时不间断,在不同时间段提前做好内容安全工作计划,出台应对措施。

舆情分析与应对:易盾还搭建了一支舆情监测队伍,定期开展网评员、信息员等培训班,不断提升舆情工作人员媒体素养、专业知识及技能,助力企业提升风控软实力。

安全防御    安全培训,完善从业者的风控知识

要在应对直播风控中赢得主动,安全策略与制度的完善是直播风控的重中之重。易盾提供各项服务,助力 MCN 机构加强人才队伍、培训交流等方面的措施,实现有力保障。


安全培训课程赋能:易盾将 20 多年内容安全保障经验,通过培训的方式赋能给 MCN 机构,熟悉监管政策关注的各项风险。安全培训课分为初、中、高三级,面向一线、中层管理、高管等人群,定制了差异化的课程体系,助力各职能完善相应的内容安全意识,为不同的培训对象补齐知识短板。

重大时期安全保障:在重大敏感时期,如国庆、两会期间,网络生态治理更为严格。为落实互联网生态,各单位需要建立防护、监测、响应的安全机制,易盾为客户提供了重保服务,安全专家以驻场的方式,第一时间传达监管要求,第一时间策略布控及巡专项舆情,第一事件识别风险内容,确保及时处置数字内容隐患,充分保障企业的业务稳定开展。

内容安全体系建设:从不良违规内容,到广告营销违规。易盾助力 MCN 机构构建一套完善的直播行业内容安全工作机制,制度与办法源自多年内容审核的实践经验,涵盖信息安全管理、信息安全评估管理、数据安全管理、信息安全培训管理、审核人员管理、审核人员管理、信息源管理、第三方合作管理、信息内容审核管理等方向。通过管理制度和规范机制,直播行业高效把握内容审核节奏,规避数据处理不安全、人员不稳定、效果不稳定等衍生风险。

合规检测    AI 机审+人审双重保障

易盾拥有强大的智能检测能力,内容检测的 AI 机器模型超过 200 多种,配备自定义配置的关键词库和图库,适应图、文、音、视多类型内容。此外,方案结合多级标签机制适应内容运营策略,除黄色、暴力、涉政、广告、诈骗等多种常规不良违规类目之外,可以满足各类定制化内容审核需求。

客户超千家,每审数据量近万亿条,丰沛的实践经验助力内容审核更精准。这是由于多年数据样本可不断反哺训练模型,有效将检测精准度提升至 99% 以上。针对 1% 的内容风险,提供精细化的人工审核,绝不放过任何潜在风险。

智能审核管理平台:通过智能审核管理平台,直播机构可对数据的统计分析,展现可视化的安全态势,用数据来论证安全强度,用数据量化内容安全风控效果,实现内容统一管控、全程溯源、实时审查、降本增效。

多项审核功能创新:文本、图片、音视频、直播、文档、网页等融媒体数据审核全覆盖;自定义多轮审核流程,自由选择一审二审三审、盲审、抽审模式;支持极速/分类审核、多人同审、关联审核、聚类审核;独创的直播电视墙审核模式,极大降低安全风险,提升内容审核效率。

专业人工审核团队:审核团队基于机器智能检测,提供 7x24 小时人工内容审核支持,搭配智能审核系统,助力企业人审效率提速 5 倍以上。团队成员经过培训与考核上岗,多次参与参与人社部、中国电子学会、公安部《网络与信息安全管理员国家职业技能标准》、《互联网内容审核职业技能等级标准》的开发制定,与中国电子学会共同创办培训班,为行业输送人才。

事件响应    直播内容安全应急处置有措施

互联网产品在运营过程中突然遭遇境外冲塔、舆情风险等紧急事件并不少见。

在应急响应阶段,易盾提供全天候的专家支持,给予企业公关处置建议,提供内容安全策略咨询与技术服务支持,助力企业应对监管专项行动和爆发的紧急安全事件。

专属服务群:为客户建立专属专家团队,由 AI 算法专家、安全研究员、政策法规研究专员组成,全天候履行三大职能:应急安全策略更新、响应安全效果调优与输出应急工作报告,以应对监管检测。团队成员具备丰富的应急响应经验,为业务正常运行保驾护航。

方案优势


快速符合行业监管要求

基于 PPDR 模型的直播内容安全服务,满足国家监管单位提出的以安全技术保障、策略运营管理、风险监测预警、安全应急响应为核心的安全要求。

大幅降低直播内容风险

易盾内容安全服务为企业从风险预测、安全防护、安全检测、应急响应等维度构建了内容安全闭环模型,由被动防御转变为动态防御,可以及时发现风险和响应消除事件带来的影响和损失。

轻量化投入、提供针对性安全服务

易盾内容安全服务可以针对不同类型企业提供自适应的安全方案,企业无需为内容安全投入大量精力进行内容安全工作规划、设计、实施和维护,可大幅降低内容风控带来的负担。

直播行业安全护航实践


某头部电商直播机构

1、工作人员安全意识薄弱,对广告法认知不足,直播间因涉嫌虚假宣传,被监管单位处罚。

2、缺乏完善的内容审核机制,导致直播物料、直播台本暴露内容合规风险。

易盾为该机构和主播提供“AI 机审+人工审核+智能审核系统”一体化解决方案,审核召回率达 99%,人工审核成本降低 90%。

点击链接免费试用视频审核