近日,全国"扫黄打非"办公室作出安排部署,即日起至11月底开展"新风2021"集中行动,将大力扫除淫秽色情低俗、暴力恐怖迷信等有害信息和出版物,深入打击假媒体、假记者站、假记者及侵权盗版等违法违规活动,积极营造健康向上的社会文化环境。
由于云盘、网络直播平台、新闻客户端、知识问答等领域不断出现内容安全问题,本次网上“扫黄打非”已经把查处违法违规互联网企业列入重点,引导、督促企业全面落实主体责任。
值得注意的是,"新风2021"行动又分为“护苗2021”“净网2021”“秋风2021”三大专项平台,基于不同侧重点为互联网内容排雷,有的放矢治理数字内容风险。
01“护苗”行动 聚焦育新人使命任务
一是,定期检查校园周边重点市场点位,集中清理夹杂“黄暴毒”、宣扬邪教迷信等有害内容的少儿出版物。
二是,深层清理网上对未成年人具有诱导性的不良内容。
三是,督促网络平台实施“青少年模式”并切实发挥作用,推进重点互联网企业专设“护苗”工作站点,开展“护苗”系列正面宣传教育活动,推动学校、家庭严格管理学生使用手机等智能终端产品。
02“净网”行动 重点整治五个领域
一是,开展网络直播专项整治,深入整治直播打赏乱象,严禁炒作“天价打赏”行为,重点关注“美女直播”“热舞”“主播PK”等问题多发版块,处置低俗直播诱导打赏行为;坚决打击非法地下直播平台。
二是,开展网络游戏专项整治,严厉打击传播淫秽色情、暴力血腥等有害内容的网络游戏,严肃处置人物衣着暴露、以打“擦边球”为噱头的网络游戏,着力查处未经批准擅自运营的网络游戏,禁止直播未经审批的网络游戏。
三是,开展网络文学专项整治,组织抽样检查,严肃处理导向不正确、内容低俗的作品,坚决打击制售传播淫秽色情内容行为,从严查处线下非法出版、印制、销售网络文学作品活动。
四是,开展弹窗广告专项整治,加大对低俗、“软色情”弹窗广告的处罚力度,追查淫秽色情网站等非法弹窗广告源头。
五是,开展网络社交平台专项整治,重点打击通过群组传播有害信息行为。
03“秋风”行动 维护新闻出版秩序
一是,严厉打击假媒体、假记者站、假记者,查处假冒新闻机构、新闻记者从事非法活动,取缔、关闭一批非法设立的报刊编辑部、新闻记者站(工作站)及网络平台。
二是,严厉打击自媒体从事虚假新闻、扰乱网络传播秩序等活动,保持打击“网络水军”“黑公关”的高压态势,清理关闭一批违法违规自媒体账号。
三是,严厉打击各类侵权盗版活动,重点查处盗版盗印党和国家重要会议文件、党史学习教育有关读本及学习辅导读物,以及大中小学教材教辅、畅销图书等行为。
04 技术助力网络“大扫除”
在5G时代,更广的内容生产者,更快的内容生产速度,庞大的数据规模,反复的有害内容,成为新时代内容安全的挑战。
网易易盾从场景、技术、合规三个方面出发,构建了全方位的数字内容安全框架,助力企业打造“清朗、有序、融合”的网络空间。当前,易盾提供多个维度、场景化的内容安全解决方案,客户既可以根据文件类型独立部署,也可以选择一站式智能审核,还可以通过人工审核对数字内容进行高标准控制。
文本检测:高效过滤色情、广告、涉政、暴恐等垃圾信息
图片检测:领先图像识别算法,精准过滤涉黄、涉政、暴恐等违规图片
视频检测:秒级处理违规镜头,支持直播、点播视频过检
音频检测:领先的语音识别技术,精准、高效分析识别违规音频
人工审核:基于机器智能检测,提供7x24小时人工内容审核支持
智能审核管理系统:智能高效的审核平台
合理界定内容违规,紧跟行业监管法规。近年来,我国在互联网内容治理方面取得一系列突破,互联网数字内容面临《网络安全法》、《网络安全审查办法》、《互联网信息服务管理办法》、《网络信息内容生态治理规定》等法规的监管。经过22年的实践探索,易盾形成了一套体系化的问题内容通用定义,并从不断变种的实际问题中获得优化思路,减少误漏判。当前,易盾支持8大类文本问题、11大类图片问题和11大类的语音。每一个细分类进行了有明确的标签和描述。
自定义敏感内容,配置季节性内容审核策略。在敏感时期,易盾对特定方向有害内容的检测力度,收紧相关的审核规则,对存在嫌疑的内容进行二次审核。为配合业务审核逻辑,易盾与客户一道确定详细的人工审核标准,并反馈关于有害内容的标准化报告。内容审核实现全流程可溯源,保障内容安全。
从全量机器审核到重点内容人工审核。当前,易盾的互联网内容审核为“内容上传-机器审核-人工审核—人工质检-数据分析-日志跟踪”的全流程。针对每一条需要决策的内容,机器会率先进行风险判断,包括“通过”、“嫌疑”、“不通过”三种。在机器初审核后,用户可通过操作界面自行选择是否接入人工审核。
根据场景适配检测字段与技术。针对各行业场景化的内容审核需求,易盾基于金融、教育、游戏、社交、直播等不同业务场景,提供不同侧重点的内容审核机制,让问题内容无处遁形。以直播场景为例,易盾对语音、文字、画面等进行内容审核,结合直播中的其他异常数据,对直播视频进行风险程度的预判。
网易易盾是网易集团旗下一站式数字内容风控品牌。自成立之初,易盾就将“内容安全”列为发展战略之一,通过智能化的SaaS模式来服务行业客户,在不同行业场景建立起示范效应,减轻数字时代下企业的内容安全合规压力。