风口的风控难题
只需要将手机、镜头、麦克风、电脑简单组合，就能与全国乃至全世界的观众交流。直播是当前的一个热点话题，出圈3年以来，直播的发展喜忧参半。
一方面，受新冠疫情的影响，国内开启了“全面直播”时代，大量网红、明星加入直播大队，消费者在主播的直播间下单、娱乐成为一种新潮；另一方面，直播平台内容庸俗、低俗问题，早已不是新鲜事，内容生态难题成为所有直播平台绕不过去的困境。
据易盾统计，国家各部委机关在 2021 年就出台了近 22 个法律法规，开展了约 15 次监管专项行动。全年，监管封禁 7200 余名主播，处置账号 13.4 亿个，清理违法和不良信息 2200 万余条，下架应用程序、小程序 2160 余款。
究其背后的原因，主要是网络信息内容生态治理的意识淡薄，无法跟随监管要求及时指导播出。此外，在互联网技术前，直播互动性強，实时性高，大火的直播间拥有来自千万乃至上亿双眼睛的共同注视，观众随时传递意见反馈。这令传统的内容风控手段无法及时统筹头像、留言、弹幕、互动话术、主播动作等板块的内容。
直播创造了商机，刺激了网络新兴经济，但互联网平台企业在投入直播的时候，也别忘了安全风控。当头部主播因内容违规被无限期停播时损失巨大。
当下，网络直播的监管日益细化，防患于未然才能事半功倍。可以预见的是，直播的风控环节会越来越细致，未来更加注重深度精细化管理。
风波不断，MCN 与直播的风险何在？
直播业务环节多而杂，每个环节都可能引入风险。易盾将风险从“人-货-场”的链路出发逐一提示。主要表现为，“人”的把控从行为规范到认知培训转变；“货”的把控从质量筛选拓展到广告营销扩展；“场”的把控从整体直播间到细节板块。直播面临的合规问题主要有以下几个。
人 清朗网络意识不足，舆情应对处置机制不足
去年情人节期间，“让女性轻松躺赢职场”的内衣广告引发热议，文案涉嫌低俗，并被质疑女性歧视，影响恶劣。该广告删除前阅读量达到 125 万余次，最终被罚款 88 万元，对品牌形象造成巨大，消费者好感度下降明显。
电商带货考验着直播从业者的能力，尤其是对违规不良内容、法律法规、意识形态的认知。直播人员呈年轻化趋势，渴望创新与无拘无束，但在舆情分析、政策解析、审核机制、安全意识等方面严重不足。一言一行极易激化内容安全风险。MCN 机构亟须解决直播相关人员的安全意识淡薄问题，补充直播相关人员的专业培训。
货 广告合规，数字化营销不知规范
在直播间内，主播相当于产品的“广告代言人”，因此主播的具体行为还要承担“广告发布者”或“广告主”的责任。如果营销话术不规范，主播和电商直播平台也要承担相应的连带责任。
电商直播间内售卖产品跨越不同行业，从零食、母婴、化妆品到医疗等。难点在于不同行业的营销法规暗藏盲点，难以快速了解与吃透行业细则，容易在直播间内发生营销违规。
场 实况交互，忽略直播空间由多方共创
直播是 PGC 与 UGC 有机融合，只要一个环节出错，都将导致 MCN 机构的安全风控工作前功尽弃。直播间的物料与主播的内容输出由 MCN 机构与供应商联合制作，经过了多道环节把关，而诸如弹幕、评论、头像一类的板块由用户直接参与，在直播中即时产生。用户的发言难以控制，不良违规内容的发生概率高，突发事件多。
总之，内容安全方面一定要体系化建设避免单点的防御。
直播护航解决方案
面向直播行业的难题，易盾构建了一套自适应的内容安全体系。新的体系摆脱了以往单点防护的思路，基于 PPDR 模型，即以风险预测（predict）为起点、结合安全防御（prevent）、合规检测（detect）、事件响应（respond）等维度形成安全闭环。
风险预测 舆情组合拳，获取、传达、分析与应对有妙招
“互联网+”时代，社交和信息的发布以网络媒体平台为聚集地，舆情在此产生和传播。新媒体环境下，信息来源复杂且渠道多样，如从海量信息数据中精准发掘舆情是一项技术问题。
舆情获取：顺应时代趋势，易盾建立了丰富的舆情通道，包含官方渠道、技术渠道、共建共享渠道等，抓住当期与历史节点上要重点防护的风险对象，第一时间解读与传递舆情，帮助企业提前预防内容风险。
舆情传达：以 5 月份为例，易盾向企业客户同步近百起热点舆情。易盾自研舆情监测平台，通过舆情日历、舆情日报、舆情预案三大方向，让企业有效掌握新媒体环境下的舆情，做到 24 小时不间断，在不同时间段提前做好内容安全工作计划，出台应对措施。
舆情分析与应对：易盾还搭建了一支舆情监测队伍，定期开展网评员、信息员等培训班，不断提升舆情工作人员媒体素养、专业知识及技能，助力企业提升风控软实力。
安全防御 安全培训，完善从业者的风控知识
要在应对直播风控中赢得主动，安全策略与制度的完善是直播风控的重中之重。易盾提供各项服务，助力 MCN 机构加强人才队伍、培训交流等方面的措施，实现有力保障。
安全培训课程赋能：易盾将 20 多年内容安全保障经验，通过培训的方式赋能给 MCN 机构，熟悉监管政策关注的各项风险。安全培训课分为初、中、高三级，面向一线、中层管理、高管等人群，定制了差异化的课程体系，助力各职能完善相应的内容安全意识，为不同的培训对象补齐知识短板。
重大时期安全保障：在重大敏感时期，如国庆、两会期间，网络生态治理更为严格。为落实互联网生态，各单位需要建立防护、监测、响应的安全机制，易盾为客户提供了重保服务，安全专家以驻场的方式，第一时间传达监管要求，第一时间策略布控及巡专项舆情，第一事件识别风险内容，确保及时处置数字内容隐患，充分保障企业的业务稳定开展。
内容安全体系建设：从不良违规内容，到广告营销违规。易盾助力 MCN 机构构建一套完善的直播行业内容安全工作机制，制度与办法源自多年内容审核的实践经验，涵盖信息安全管理、信息安全评估管理、数据安全管理、信息安全培训管理、审核人员管理、审核人员管理、信息源管理、第三方合作管理、信息内容审核管理等方向。通过管理制度和规范机制，直播行业高效把握内容审核节奏，规避数据处理不安全、人员不稳定、效果不稳定等衍生风险。
合规检测 AI 机审+人审双重保障
易盾拥有强大的智能检测能力，内容检测的 AI 机器模型超过 200 多种，配备自定义配置的关键词库和图库，适应图、文、音、视多类型内容。此外，方案结合多级标签机制适应内容运营策略，除黄色、暴力、涉政、广告、诈骗等多种常规不良违规类目之外，可以满足各类定制化内容审核需求。
客户超千家，每审数据量近万亿条，丰沛的实践经验助力内容审核更精准。这是由于多年数据样本可不断反哺训练模型，有效将检测精准度提升至 99% 以上。针对 1% 的内容风险，提供精细化的人工审核，绝不放过任何潜在风险。
智能审核管理平台：通过智能审核管理平台，直播机构可对数据的统计分析，展现可视化的安全态势，用数据来论证安全强度，用数据量化内容安全风控效果，实现内容统一管控、全程溯源、实时审查、降本增效。
多项审核功能创新：文本、图片、音视频、直播、文档、网页等融媒体数据审核全覆盖；自定义多轮审核流程，自由选择一审二审三审、盲审、抽审模式；支持极速/分类审核、多人同审、关联审核、聚类审核；独创的直播电视墙审核模式，极大降低安全风险，提升内容审核效率。
专业人工审核团队：审核团队基于机器智能检测，提供 7x24 小时人工内容审核支持，搭配智能审核系统，助力企业人审效率提速 5 倍以上。团队成员经过培训与考核上岗，多次参与参与人社部、中国电子学会、公安部《网络与信息安全管理员国家职业技能标准》、《互联网内容审核职业技能等级标准》的开发制定，与中国电子学会共同创办培训班，为行业输送人才。
事件响应 直播内容安全应急处置有措施
互联网产品在运营过程中突然遭遇境外冲塔、舆情风险等紧急事件并不少见。
在应急响应阶段，易盾提供全天候的专家支持，给予企业公关处置建议，提供内容安全策略咨询与技术服务支持，助力企业应对监管专项行动和爆发的紧急安全事件。
专属服务群：为客户建立专属专家团队，由 AI 算法专家、安全研究员、政策法规研究专员组成，全天候履行三大职能：应急安全策略更新、响应安全效果调优与输出应急工作报告，以应对监管检测。团队成员具备丰富的应急响应经验，为业务正常运行保驾护航。
方案优势
快速符合行业监管要求
基于 PPDR 模型的直播内容安全服务，满足国家监管单位提出的以安全技术保障、策略运营管理、风险监测预警、安全应急响应为核心的安全要求。
大幅降低直播内容风险
易盾内容安全服务为企业从风险预测、安全防护、安全检测、应急响应等维度构建了内容安全闭环模型，由被动防御转变为动态防御，可以及时发现风险和响应消除事件带来的影响和损失。
轻量化投入、提供针对性安全服务
易盾内容安全服务可以针对不同类型企业提供自适应的安全方案，企业无需为内容安全投入大量精力进行内容安全工作规划、设计、实施和维护，可大幅降低内容风控带来的负担。
直播行业安全护航实践
某头部电商直播机构
1、工作人员安全意识薄弱，对广告法认知不足，直播间因涉嫌虚假宣传，被监管单位处罚。
2、缺乏完善的内容审核机制，导致直播物料、直播台本暴露内容合规风险。
易盾为该机构和主播提供“AI 机审+人工审核+智能审核系统”一体化解决方案，审核召回率达 99%，人工审核成本降低 90%。