10月23日，“5G+互联网文娱数字时代创新峰会”在上海顺利召开。此次论坛由汇部落和IT客谈联合主办，围绕着技术落地和商业变现，共同探讨“5G+互联网文娱”未来发展新趋势，推动文化娱乐行业创新升级。
网易易盾安全技术总监高民先生受邀出席峰会，并以“5G时代互联网文娱行业安全防护解决方案”为主题发表演讲，探讨了为什么文娱行业应该关心内容安全？文娱行业的内容安全现状如何？面对现实中的痛点，网易易盾如何进行技术升级？
内容安全既是网络安全的一个面，也是维护国家安全的重要组成部分。在高民看来，随着新一代信息技术革命兴起，互联网文娱行业的内容把关方式必须跳出旧的思维模式，才能跟上“上亿级”海量内容的生产节奏，在5G时代守住互联网文娱的底线。
作为新一代信息通信技术，5G的商用发展令人眼前一亮。截至目前，全国基站已超60万座，终端连接数超1.5亿。5G电缆和电波将数字化的内容快速输送到用户终端。阅读的每一篇文章，分享的每一张照片，点击的每一段视频，都留有数字的痕迹。
在全球76.76亿人中，有近6成的人是名副其实的网民，是5G时代文娱行业的基本面。全球网民既是内容的生产者，也是内容的消费者。你们是否想过，每一天究竟能有多少数据产生？
我们甚至都没有注意到一天内产出的数据量非常庞大。2019年，据Facebook统计，Facebook每天产生4PB的数据，包含100亿条消息，以及3.5亿张照片和1亿小时的视频浏览。此外，在Instagram上，用户每天要分享9500万张照片和视频；Twitter用户每天要发送5亿条信息。在人口庞大的中国，更是如此。2018年微信用户每日信息更新量就达到450亿条。
可以预见，在5G时代，内容的生产速度将会更快，数据规模会更加庞大。面对如此浩瀚的信息海洋，传统内容审核模式很难做好把关。
一、“精英审核”走向“智能审核”
“上亿级”海量内容的生产节奏，也促使内容审核“把关人”的角色发生改变，需要引入更专业的人才，更加先进的技术进行内容把关。
传统内容审核模式属于精英审核，大量人工介入，明显心有余而力不足，而在5G时代，依靠人工智能技术构建的以机器检测为主，人工审核为辅的模式将会成为常态。机器负责对海量数字内容进行智能判断，人工负责对机器不确定的少量结果进一步查验和决策。
在强对抗场景下，黑灰产同样借助技术，变着法子传播有害内容，例如文字翻转、图片切割、文字扭曲、特征掩盖、特殊比例图片、字符干扰等。通过不断的提炼违规样本，反复进行模型训练，提升机器的应变智商。在实战中，易盾见证了人工智能算法在内容安全领域的一步步落地，并且成为了对抗黑灰产的主要技术手段。
“罗马不是一天建成的”，易盾在内容安全技术建设方面，也进行了较多技术创新，比如，基于有害信息的多因素融合的综合决策技术，小样本增广技术，基于多模型融合的分层决策网络等技术。
具体来看，软件架构上引入容器化技术，带来灵活动态扩容和负载均衡，同时做到多模型同时加载，并行检测，缩短了识别时间，并且做到了跨机房多活架构，保障了系统稳定性，也方便了不同区域的客户，能够进行就近访问，加快检测速度。硬件上，对不同硬件进行分级管理，根据不同模型计算特点，灵活调整CPU和GPU的配比，提高服务器使用率。
目前，易盾系统稳定性达到99.99%，模型准确率达到99.9%。文本识别时间在50ms以内，图片识别500ms以内，音频实时率0.2，直播延迟毫秒级，日均处理十亿+数据量。
二、数字内容不停，安全问题不止
国家更是高度重视内容监管，一方面，法规要求多且趋于完善，另一方面，内容监管专项治理活动长期开展，内容监管已经常态化。
在法律层面，各种互联网文娱类型都有了针对性监管法规，包括网络直播营销、才艺表演、访谈脱口秀、真人秀、少儿亲子、文艺晚会等。我国第一部专门针对儿童网络保护的法规，明确了任何组织和个人不得制作、发布、传播侵害儿童个人信息安全的信息，以适应移动终端用户青少年化的趋势。
此外，代号为利剑、净网、护苗、清朗的专项治理行动，以人群和行业为导向，集中清理网上各类违法和不良信息。
中央网信办的统计显示，2020年1月,全国各级网络举报部门受理举报1159.3万件,环比下降5.2%、同比增长12.1%。近年来，内容安全事件此起彼伏。从各类安全事件可以看到，文化娱乐行业为内容安全问题付出了巨大代价。
数字内容犹如一片海洋，有水波，有寒流，也有漩涡。不法分子四处散播混乱与邪恶，内容治理之路也如同海洋中的潮汐般起起落落。
高民指出，5G时代的数字内容治理不是一个一劳永逸的问题，需要盯紧不法分子的行动特征，结合行业使用者的需求，融入先进的技术应用，进行更为深入细致的探索。
相关阅读：