“3、2、1，上链接！”
这句简洁明了的话，似乎有着无限魔力，回荡在各个网络直播间内。
2024年的“双11”比以往来的更早一些，各平台鏖战升级，带货主播纷纷下场，“史上低价”的声音在直播间不断回荡。主播自信的语调，正是当前直播带货在中国风头无两的写照。来自网经社的数据显示：2023年直播电商交易规模49168亿元，同比增长40.48%，直播电商渗透率（直播电商渗透率=直播电商交易规模/网络零售交易规模）达到31.9%，增长率26.08%。
数据的强劲使直播电商成为热门行业。众主播同台竞演，不断创造经济价值的同时，安全与规范问题渐渐显露。近期，直播带货食品安全事件频发，直播与广告规范红线被频繁触碰，野蛮生长阶段过去后，合规与安全成为电商持续健康经营的必要前提。
根据《网络直播带货管理办法(试行)》第6条规定，直播平台作为互联网信息服务提供者，在直播带货领域须满足各项特殊的监管要求。直播营销平台应当配备与服务规模相适应的直播内容管理专业人员，具备维护互联网直播内容安全的技术能力，技术方案应符合国家相关标准。
01 平台如何解决直播过程中的审核需求
相较于其他销售形式，直播带货特殊性就在于，在其产业链中，连接上游供应端/品牌商与下游需求端/消费者之间的是直播服务提供者/直播平台。提供合法服务平台，是平台方的基础责任。
在直播带货场景下，电商直播常面临的内容风险：1.主播行为不当（穿着暴露，言语低俗，做出一些引诱性动作，镜头视角特殊，二维码打赏引流，出现不文明行为如喝酒、抽烟、赌博、吸毒、竖中指）；2.粉丝互动不当（出现不当言论，如性暗示，出现辱骂言论，有损主播形象和平台健康）；3.一些实时性的违规内容。
当前，对于直播场景的复杂性和多样性，适配的审核工具需要具备全场景覆盖、全要素审核的极高能力。
网易易盾AI视频内容检测方案利用数据挖掘和特征提取技术，能够自动从海量的直播数据中提取关键信息，并运用模型训练等技术手段，实现对直播内容的精准识别和风险防范。这不仅提高了内容检测的准确性和效率，也有效保障了直播企业和用户在信息内容方面的权益与利益。
易盾直播AI内容检测系统，采用先进的技术策略，为直播和点播视频内容提供了全面的安全检测解决方案。系统通过实时拉流和下载截帧技术，有效识别并应对色情、暴力、政治敏感、广告推广、违规内容、侵权行为以及黑屏挂机等直播中的各类违规行为。系统的关键辅助功能包括：
智能电视墙监控：实时监控多个直播流，确保内容的合规性与安全性。
视频MD5数据库：利用MD5值快速识别和过滤重复或已知的违规视频内容。
主播黑名单系统：记录并追踪违规主播，预防其再次违反平台规定。
直播间热度监控：实时分析直播间的活跃度和观众互动，及时发现并处理异常情况。
02 海量审核，如何兼顾效果与成本
面对海量的直播数据和日益增长的检测需求，平台方在实现检测效果的同时，兼顾检测成本的平衡也是一项重要任务。
提高检测频率可以显著减少漏判情况，即通过更频繁的监控，系统能够及时捕捉到违规内容，从而降低漏截率。这有助于尽早发现问题，采取相应措施，保护用户和企业的权益。然而，随着检测频率的提升，系统需要处理的截图数量也会相应增加，这直接导致了检测成本的上升。
当平台存在固定检测成本这一条件限制时，检测系统必须在有限的资源内进行工作，这限制了能够处理的截图数量。资源有限的情况下，系统可能无法覆盖所有直播内容，一些违规的截图存在未能被及时检测处理的风险，即存在漏检问题。
那么，是否有兼顾检测成本和效果的解决方案呢？
易盾核心能力一：技术底层解决方案 — 确保关键特征截图的全面捕捉
● 什么是视频关键帧？视频关键帧（Key Frame）是在视频编码过程中用于表示视频内容的重要帧。它们是视频序列中的基准帧，包含完整的图像信息。在视频播放或编辑时，这些帧可以独立解码，而不需要参考其他帧。
● 关键帧检测机制是怎样？
● 开启视频关键帧对检测成本有什么影响？关键帧分布跟原始视频有关，一般配置固定截图频率>2s时，实际截图检测数量会小于固定截图数量，预计平均节省15-20%的检测成本。
● 开启视频关键帧对检测效果有什么影响？因关键帧代表了视频的核心内容，开启后，优先提取关键帧内容进行检测，对原始检测效果无影响，甚至因修正了截图，使用关键帧图片对检测效果有一定程度提高。
易盾核心能力二：业务逻辑解决方案 — 实现动态截帧频率调整
● 引入截帧影响因子：易盾设计了一套基于截帧影响因子的系统。该系统通过分析各种相关因子，如直播内容的动态性、观众互动等，对它们进行加分或减分的逻辑处理。
● 实时异常分数计算：结合各因子的评分，系统能够实时计算直播的异常分数。这一分数反映了直播内容的实时状态，帮助平台识别潜在的异常情况。
● 动态截帧频率配置：根据实时异常分数的不同，系统自动调整截帧频率。在异常分数较高时，增加截帧频率以捕捉更多关键信息；在正常直播情况下，则可降低截帧频率，优化资源使用。
03 智能审核时代 = 机审 or 人审？
尽管机器审核在处理大量数据和识别违规内容方面具有显著优势，但它在面对网络内容中复杂的意识形态和价值导向问题时，仍然存在一定的局限性。这可能导致一些敏感内容未能被有效识别和过滤，从而在平台上出现，对网络生态的健康造成潜在影响。
在智能审核时代，人工审核的深度和细致仍然是机器审核所无法替代的，尤其是在处理那些机器难以识别的敏感和复杂内容时。人工审核能够提供更为精准和深入的分析，确保内容的安全性和合规性，对于维护网络环境的健康发展具有不可替代的作用。
当前，基于大数据、人工智能、深度学习等技术的机器审核+人工审核+智能审核系统的组合，已趋于成为平台型企业的主流审核机制。以网易易盾为例，2023年全年检测数据量超过9000亿，亮眼的成绩背后，是网易易盾将三者紧密结合后的功劳。
网易易盾「智能审核系统」中的直播电视墙支持最大38路直播视频流同时播放审核，是直播内容巡检、查询、审核操作的不二之选，完美契合快速直播审核需求，可极大提升审核人员效率。优秀的审核系统不是单纯地替代“人审”，更应该提升团队的审核效率，强化实战能力，为审核人员提供更丰富实用的审核工具。
随着技术的不断进步和监管政策的日益完善，直播行业将继续保持健康、有序的发展态势。而网易易盾直播AI内容检测系统+智能审系统，作为行业内的一项创新技术，将为直播电商的规范发展贡献重要力量，助力行业迈向更加繁荣的未来。