# 前言
近年来，随着互联网的高速发展，多媒体内容爆发带来了海量信息，但同时，裹挟大量色情、违禁、暴恐等不良内容的有害信息频繁出现在网络中。
当内容平台快速发展时，被灰黑产盯上的现象屡见不鲜，将其视作“流量蜜罐”，并利用平台流量曝光机会，植入大量垃圾广告，更有甚者借此传播黄赌毒等有害信息。
据不完全统计，2020年，有上千款应用和服务因存在内容安全问题被勒令下架、关停，并敦促整改，业务发展均遭受巨大损失。
新业态、大流量以及“网民的智慧”给内容识别产业带来的挑战加剧，与此同时，第三方审核服务行业应运而生。继传统网络安全之后，与特定场景高度融合的内容安全正逐步成为数字企业发展的重要生命线。
“清朗”专项与改变
平台对内容的日常管理离不开机器与人工。人机协同正在成为未来内容审核的主旋律，我们期盼机器作出最佳决策，也需要人类智慧的补充。当前，人工审核的从业人数达十几万，加上数据标注行业，这个数值更加庞大。
何为互联网“内容审核“？
内容审核，顾名思义就是对内容进行审核。互联网内容审核指的就是指对用户在社交平台上上传、发布或共享的内容进行审查，包括文字， 图片，音频，视频。审核内容包含内容质量、风险、暴力敏感、谣言、涉黄、垃圾、违法、个人隐私、赌博、网络舆论、非法程序、毒品、网络诈骗、邪教、侵犯公民、非法售卖、 严重搞笑错别字等。其主要目的是对低质庸俗的内容进行过滤筛选，从而生产高质量的内容、提升用户体验、保持良好内容生态。
据调查，有害垃圾占互联网UGC内容量的3%左右。其中最多的是各类非法广告，其次是涉黄低俗信息及涉赌涉毒信息。随着内容的多媒体融合，5G等信息基础设施的发展，互联网内容也迎来大爆发，内容安全压力愈加严峻。只有各行业共同努力，构建出智能驱动、统一联动、个性定制、共建众治的内容体系，才能全面、高效地解决内容安全难题。
出于信息传播安全性的考量，互联网平台内的文字、图片、音频、视频内容在播出前，都需要经过专业的审核。如何更好进行互联网内容审核呢？
审核模式有哪几种？
互联网公司制定的服务条款通常禁止不同类型的非法内容，这就要求在内容发布的前、中、后引入审核。
互联网内容审核的模式根据平台需求和用户体验，可分为先审后发、边发边审和先发后审三种形式，对于不同的审核模式需要制定不同的审核流程和规范。
无论哪一种模式，都要依托专有的审核后台与完善的流程，从而实现高效率和高准确率的审核。
审核流程：内容上传—机器审核—人工审核—人工质检—数据分析—日志追踪。
内容审核流程图：
内容审核必须由专业的审核机构和审核人员来进行，以确保审核工作的客观性、公正性和实时性。
先发后审：指用户先发表UGC内容，再经过审核。先发后审适用于对发表内容时效性要求较高的场景，如直播弹幕互动，线上演唱会、听歌评论等。此时用户发表评论更多出于即兴，因此从用户的角度考虑，希望自己发表的评论能够马上看到。这种场景多见于社交娱乐行业，如：网易云音乐评论。
先审后发：即用户提交UGC内容后，先经过审核，审核通过才能发表上线。先审后发模式适用于金融行业、新闻平台等场景。用户多进行文章发表与观点讨论，对时效要求较低，而对平台方而言，内容权威性更为重要，因此通常要审核后才能发表。比如：触电新闻、招商银行等。
边发边审：指在播出过程中同步审核播放的方式，如经过备案报批且通过年检的网络直播节目等。
审核时效：根据审核模式的不同，对时效的要求也不同，机器审核基本可以达到实时或者 1分钟内出贴，人工审核边发边审 1-3 分钟，先审后发时效要求在 3-5 分钟内，先发后审一般在 30 分钟-2 小时之间，时效可以根据业务需求进行调整和控制。
如何设置审核流程？
现有审核方法：机器审核、人工审核、人机协同等方法，通过技术手段，机器检测可以过滤90%左右的数据。近年来，互联网产品监管趋于严格，随之而来的违规内容手段也日趋丰富，审核的挑战越来越大，（正常变化频次也越来越高）。因此，仅靠机器是无法实现完全过滤的，这就对人工审核提出了更高的要求。
完整人机协同审核流程图：
1、先进行机器审核，结果分为通过、嫌疑和不通过；
2、对机器审核嫌疑和不通过的内容进行全量人工审核；
3、对机器审核通过的内容，可选择性的进行人工全量审核或人工抽样审核。
4、根据业务风险程度和客户需求，设置一审+质检、一审+二审+质检等审核流程。
在安全审核的基础上，随着业务场景和需求的增加，还可以同时实现对数据、帖子、图片等进行推优、打标分类等操作。定制化的人工审核流程，极大的便利了企业进行数据分析，助力业务运营。
网易易盾人工审核团队参与了信息审核员的国家职业技能标准制定工作，为数百家企业提供人机协作的内容审核服务，积累了丰富经验，并搭建起了完善的内容审核流程。智能审核系统可高提效5倍，显著降低企业内容风险控制成本，让业务安全运行。
在互联网飞速发展的今天，网络黑灰产及违法违规内容也日新月异，这就要求我们网络安全人掌握更多的专业知识，善于学习和总结，同时具备创新能力，在网络攻防战中发挥更大的作用。