中文站

解读“清朗·暑期未成年人网络环境整治”专项行动,为“安全”护航

2020 年以来,中央网信办已连续两年组织开展暑期未成年人网络环境专项整治行动,针对网上涉未成年人重点环节、突出问题持续开展治理工作。


7 月 18 日,中央网信办、国务院未保办(民政部)、教育部、共青团中央、全国妇联联合举行“清朗·2022 年暑期未成年人网络环境整治”专项行动启动仪式。专项行动为期 2 个月,聚焦未成年人使用频率高的短视频直播、社交、学习类 App、网络游戏、电商、儿童智能设备等平台,集中解决涉未成年人问题乱象。

1    行动要求的纵向对比

“清朗·2022 年暑期未成年人网络环境整治”专项行动包含 10 个方面的整治重点,主要合规要点可以概括为:未成年人个人信息保护、网络信息内容规范和未成年人网络沉迷防治这三个方面。2021 年与 2022 年的暑期未成年人网络环境整治行动要求整理如下:


2    新增亮点

与 2021 年暑期专项行动相比,今年新增的亮点内容分为四个方面。

一、强调个人信息保护:顺应加强个人信息保护和数据安全的监管背景,指向未成年人个人信息被滥采滥用、保护不充分等问题。

二、虚假信息和恶意营销治理:与打击网络谣言和 MCN 机构信息内容乱象整治行动相呼应,集中整治欺骗误导未成年人的有害信息。

三、强化智能设备信息内容管理:对于专供未成年人使用的智能终端产品,需全面、深入清理违法不良信息,让产品适应未成年人身心健康发展规律和特点。

四、新增电商类行业场景整治要求:严防互动区出现低俗、血腥内容。

2022 年以来,涉未成年人保护领域的相关立法在逐步完善,对未成年人保护方向的内容合规、隐私合规、算法合规等方面提出新的具体要求。教育机构、网络产品和服务提供者、个人信息处理者、智能终端产品制造者和销售者,均是保护未成年人网络空间合法权益的责任主体。

可以预见,在相关征求意见稿,尤其是《未成年人网络保护条例》正式通过实施以后,未成年人保护方向将掀起新一轮互联网严监管。

易盾也将密切关注相关法律法规及政策的进一步走向,持续针对未成年人保护推出更多有效方案。

3    2022年上半年涉未成年人监管脉络梳理

《互联网信息服务算法推荐管理规定》

发布时间:2022 年 1 月 4 日        发文机关:国家网信办

涉未成年人监管重点:

第三章“用户权益保护”第十八条规定:算法推荐服务提供者向未成年人提供服务的,应当依法履行未成年人网络保护义务,并通过开发适合未成年人使用的模式、提供适合未成年人特点的服务等方式,便利未成年人获取有益身心健康的信息。

算法推荐服务提供者不得向未成年人推送可能引发未成年人模仿不安全行为和违反社会公德行为、诱导未成年人不良嗜好等可能影响未成年人身心健康的信息,不得利用算法推荐服务诱导未成年人沉迷网络。

合规要点:算法合规

《关于做好 2022 年全面推进乡村振兴重点工作的意见》

发布时间:2022 年 1 月 4 日        发文机关:中共中央国务院

涉未成年人监管重点:

在第五点“扎实稳妥推进乡村建设”中提到,要完善未成年人关爱保护工作网络。

《关于开展“清朗·2022 年春节网络环境整治”专项行动的通知》

发布时间:2022 年 1 月 24 日        发文机关:国家网信办

涉未成年人监管重点:

从严整治“网红儿童”“软色情”等问题,保障未成年人合法权益。

一是严控春节期间借“网红儿童”牟利行为,不得利用未成年人发布低俗不良短视频信息,禁止未成年人出镜直播,防止未成年人以声音、肢体等方式变相出镜。二是聚焦春节期间未成年人使用频率较高的服务应用,大力整治涉未成年人“软色情”、邪典视频、自杀约死、祖安黑界等突出问题。三是进一步完善青少年模式,严格时间限制和功能限制,不得诱导未成年人“氪金”打赏,防止未成年人沉迷网络。

合规要点:内容合规、防沉迷

《互联网信息服务深度合成管理规定(征求意见稿)》

发布时间:2022 年 1 月 28 日        发文机关:国家网信办

涉未成年人监管重点:

第七条 深度合成服务提供者应当落实信息安全主体责任,建立健全算法机制机理审核、用户注册、信息内容管理、数据安全和个人信息保护、未成年人保护、从业人员教育培训等管理制度,具有与新技术新应用发展相适应的安全可控的技术保障措施。

合规要点:算法合规、隐私合规

《关于加强新时代关心下一代工作委员会工作的意见》

发布时间:2022 年 2 月        发文机关:中共中央办公厅、国务院办公厅

涉未成年人监管重点:

系党对新时代关工委组织建设的指导意见,指示批示类性质。

合规要点:算法合规

《未成年人网络保护条例(征求意见稿)》

发布时间:2022 年 3 月 14 日        发文机关:国家网信办

涉未成年人监管重点:

在加强网络信息内容规范方面,《条例》规定:

加强对信息内容的管理,对含有危害未成年人身心健康内容的信息和可能影响未成年人身心健康的信息作出相应规范,明确网络产品和服务提供者发现相关信息的处置措施和报告义务(第二十二条至第二十四条、第二十六条、第三十条)。

在加强未成年人个人信息保护方面,《条例》规定:

一是明确网络服务提供者收集未成年人真实身份信息相关要求(第三十三条)。二是规定个人信息处理者处理未成年人个人信息的基本原则、知情同意、告知规则和提供规则(第三十四条至第三十六条、第三十八条)。三是规定个人信息处理者处理未成年人敏感个人信息需要履行的特殊义务(第三十七条)。四是明确监护人在未成年人个人信息保护中的监护职责(第三十九条)。五是明确个人信息处理者的配合义务、安全事件应急处置要求、未成年人个人信息访问权限限制和个人信息合规审计要求(第四十条至第四十二条、第四十四条)。六是强化对未成年人私密信息的保护。(第四十三条)。

合规要点:内容合规、隐私合规

《关于规范网络直播打赏 加强未成年人保护的意见》

发布时间:2022 年 5 月 7 日        发文机关:国家网信办

涉未成年人监管重点:

《意见》提出七大工作举措:一是,禁止未成年人参与直播打赏。二是,严控未成年人从事主播。三是,优化升级“青少年模式”。四是,建立专门服务团队。五是,规范重点功能应用。六是,加强高峰时段管理。七是,加强网络素养教育。

合规要点:内容合规、隐私合规、防沉迷

《未成年人文身治理工作办法》

发布时间:2022 年 6 月 6 日        发文机关:国务院未成年人保护工作领导小组办公室

涉未成年人监管重点:

《办法》提出,任何企业、组织或个人不得刊登、播放、张贴或者散发含有诱导未成年人文身、危害未成年人身心健康内容的广告;不得在学校、幼儿园播放、张贴或者散发文身商业广告。图书、报刊、电子出版物等不得含有诱导未成年人文身的内容。

合规要点:内容合规

《网络主播行为规范》

发布时间:2022 年 6 月 22 日        发文机关:国家广播电视总局、文化和旅游部

涉未成年人监管重点:

第十四条 网络主播在提供网络表演及视听节目服务过程中不得出现下列行为:

介绍或者展示自杀、自残、暴力血腥、高危动作和其他易引发未成年人模仿的危险行为,表现吸烟、酗酒等诱导未成年人不良嗜好的内容;

利用未成年人或未成年人角色进行非广告类的商业宣传、表演或作为噱头获取商业或不正当利益,指引错误价值观、人生观和道德观的内容;

通过有组织炒作、雇佣水军刷礼物、宣传“刷礼物抽奖”等手段,暗示、诱惑、鼓励用户大额“打赏”,引诱未成年用户“打赏”或以虚假身份信息“打赏”;

合规要点:内容合规

4    未成年保护解决方案

暑期过半,未成年人保护工作不能放松。在重点时期,易盾助力多家互联网平台企业适应治理要求,形成强有力的“未成年保护解决方案”,携手为未成年人营造清朗、文明、充满正能量的网络空间,全方位引导未成年人养成健康上网。


网络为未成年人创造了一个全新的世界,在学习、休闲娱乐、社交等方面发挥了重要作用,尤其自 2020 年初新冠疫情发生以来,互联网成为未成年人获取疫情动态、坚持学习、与朋友保持沟通的重要保障,但也引发了未成年人身心健康保护的挑战。

易盾对未成年人面临的网络风险进行统计,主要涉及网络违法侵害、不良信息影响、个人隐私泄露、网络沉迷成瘾这四大方面,常见问题主要表现为以下几类:

问题一:互联网平台实名制和防沉迷措施落实不到位,重点规避诱导未成年人充值消费、利用网络实施的性侵、诈骗未成年人、教唆犯罪、诱导自杀等行为。

问题二:未成年心智不成熟,不法分子在各类互联网平台通过诱导未成年说出年龄、家庭住址、联系方式等个人隐私,获得了实施侵害未成年人的机会;

问题三:影响未成年人的不良信息、行为在网络游戏中普遍存在,且问题多样,对检测能力的”广“度要求高;

问题四:游戏青少年模式、防沉迷系统已普及,但认证环节漏洞较多,效能不足,未成年人可以轻松绕过;

不良内容布控势在必行

易盾的内容审核分别从儿童色情、伦理道德、思想毒害、暴力自残、不良社会风气、不文明行为多方位布控,做到真正保护未成年人。


儿童色情:包含性索求、询问个人信息等文字内容,图片方面包含成年人大尺度写真、儿童软色情表情包。

伦理道德:包含不适宜未成年接触的腐文化、乱伦、早孕早恋、同性交友相关内容。

思想毒害:包含儿童邪典图文视频,低质网文、封建迷信、传教、恐怖灵异等文本内容,大尺度擦边等低俗二次元图片。

暴力自残:包含对未成年打骂、体罚等暴力虐待相关内容,以及宣扬黑社会、校园霸凌、诱导自杀自残的图文内容。

不良社会风气:对会影响到未成年身心健康的拜金炫富内容、网络诈骗、不理智追星、网络赌博、离家出走、辍学等方面进行布防。

不文明行为:包含抽烟、喝酒、竖起中指、吸毒等未成年极易模仿的不良行为。

全场景覆盖的未成年人保护

最新的法律法规在不同场景下对未成年人的保护逐渐增强:游戏引入防沉迷时间,直播限制消费打赏。为了满足游戏、直播、社交、教育、论坛等多种场景需求,易盾利用多年产品、技术和运营经验,全天候无缝贴身保护未成年人的数字生活。点击免费试用未成年人保护解决方案


直播场景:针对直播场景中未成年不能出镜的问题,易盾实名认证可保证账号背后人的真实年龄,平台可根据账号真人年龄进行功能限制。

社交场景:针对未成年不良社交行为,易盾布防的未成年交友和涉及同性交友相关策略能有效解决未成年人在社交场景出现的风险问题,在内容上相应布控诱导未成年消费、买币、买钻等诈骗行为。

教育场景:针对教育场景,易盾的血腥模型检测能力、邪典图文视频检测能力、穿着暴露低俗、抽烟、喝酒、纹身等侵害未成年身心健康和导致未成年易模仿的行为都进行了有效布防。

论坛社区:针对论坛社区常出现的软色情表情包和诱导自杀事件,易盾结合未成年人脸检测能力和软色情话术综合布控,对约死、自杀自残类内容也能很好拦截。

游戏场景:未成年沉迷游戏是监管之重,易盾出台了未成年人防沉迷解决方案,先解决游戏实名注册,并通过AI 人脸分析初步筛选出未成年人,再用人脸对比、行为模型、设备指纹等解决游戏未成年冒用证件、租号问题。

当前,易盾对未成年人的识别和守护机制覆盖未成年人终端达到百万级。易盾通过一系列措施输出用户的未成年标签,首先结合实名认证、未成年行为检测等“用户信息检测”,其次人机合作开展 UGC 内容观察。

基于技术手段,平台得以精准定位未成年人,有效在多场景下对用户进行内容生态守护、功能限制以及隐私保护。