我们无不惊叹于互联网带给娱乐与社交的巨变，我们在新闻中看到，网络暴力横行、虚假谣言肆虐、个人身份隐私盗窃活动以及网络欺诈的威胁，数字风险造成了严重的社会问题。随之而来的是互联网监管政策不断跟进，给互联网世界带来一丝新鲜的秩序感，崭新的风貌逐渐在显露。
无论是使用微信与家人和老朋友联系，还是使用微博了解时事，或使用抖音、B 站、小红书娱乐，娱乐社交行业的使命在于“与人建立联系与交流”。
易盾在客户调查中发现，娱乐社交媒体趋向于提供一种积极向上的体验，对用户的在线安全环境负起责任，没有人想要与素质低下的同伴交流，在危险、仇恨、肮脏或非法的氛围中度过时间。
正因如此，内容风控已成为娱乐社交行业不可或缺的一部分，对产品运营的持续成功至关重要。没有它，在线平台将被个人欺凌、暴力恐怖、色情淫秽、垃圾广告、儿童性虐待等有害信息淹没。
内容安全“年度数据分析”篇
围绕数字内容风控现状，《2022 娱乐社交行业内容风控白皮书》（下称“白皮书”）新鲜出炉，披露了最新的全年风控数据。
白皮书聚焦娱乐社交行业客户，集中分析了当前政策管理、技术变革、全球化局势带来的主要风险，介绍了互联网信息内容黑灰产的作恶路径，剖析了风险用户画像中的年龄、地理、时间、设备等特征，帮助企业以更加多元化地角度去评估该用户的风险指数，助力企业找到数字风险的突破之道。
“月黑风高夜，风高放火天”，人们通常认为深夜是作恶的最佳时机，然而实际情况却出乎意料：和以往不同，传统的网络安全黑灰产通常在后半夜行动，而利用内容作恶的黑灰产们与大部分网民保持步调一致，在利用的黄金时段操纵着发布不良有害内容的链条，目的在于触达更多人，增加不良有害内容被正常用户看到的可能性。
易盾团队持续跟踪发布不良有害内容的风险用户年龄画像，约 83% 的不良有害内容来自 15-29 岁年龄段的用户，其中 15-19 岁年龄段在恶意发布者中占了近一半。为什么未成年人在风险用户中占比如此之高？
本章我们将拆解有害内容的数据，从数量、类型、发布地址分布、发布时间分布、发布用户群体分布、行业差异出发，助力企业加深见解。
过去 6 年来，大部分娱乐社交行业的公司“从无到有，从有到精”，设立了机制健全的内部内容管理部门，通过采取外部技术解决方案的方式很好地跟踪与处理掉内容风险。当前，“人机结合”的内容审核是互联网企业的主流选择，其中 AI 已经成为数字内容风控的重要助力。超过 95% 的有害内容被 AI 定位，效率比单一人工审核高出几倍。
那些整体制造“网络信息垃圾”与“不良有害信息”的力量，又被称为“网络信息内容黑灰产”。他们有一些共同点与一个相似的演化趋势。
搬运洗稿、恶意营销、撰写黑稿、黑账号、刷粉刷量、广告引流等违法犯罪行为，正在为网络信息内容黑灰产带来源源不断的经济利益，也致使其获利手段日渐多样化，如诱导粉丝消费、音视频软色情贩卖、刷帖控评、算法滥用、集群炒作、人海投诉等，更有问题组合出现的情况。
网络黑灰产并不是无迹可寻，无论是在产业链分工，还是在生命周期，抑或是在工具物料的使用上，都有着明显的特征。2022 年上半年，网易易盾分析积累的黑产工具样本同比 2021 年同期增长了近 20%，超过 15000 个，根据其发展形态可总结为四个阶段，快来报告中找答案。
一直以来，国家网信办每年开展多次“清朗”“净网”系列专项行动，各地“扫黄打非”部门深入开展“护苗”专项行动，清理网上有害不良信息。
为创造清朗网络空间，监管部门积极行动，各部门都启动了职责范围内的内容治理行动，其中广电总局和网信办的力度更大，此外中宣部、国家新闻出版广电总局、国家互联网信息办公室等监管部门也参与其中，多部门联合开展综合整治，互联网内容治理呈现出新趋势。对此趋势，白皮书收集关键政策文件，加以全面解析。
此外，白皮书针对海外市场展开了专门的风控维度解读、处罚案例剖析及特色条款解读。为了更好地助力娱乐社交行业的企业完成，易盾的专业团队对不同国家的策略进行了跟踪解读，精准契合当地内容安全法规。易盾也特地组建了海外本地化舆情、运营和审核团队，让更懂本地政策、更加专业的海外专家助力企业安全出海。