未成年网络风险形势
暑假将至，为营造未成年人良好上网环境，易盾运营专家们在线分享未成年人网络安全治理的经验和系统化解决办法，希望给互联网平台企业带来更多启发，有效解决网络生态突出问题，让未成年人安度暑假。
Q1 网络上有哪些危害未成年身心健康的突出问题？
自新冠疫情发生以来，互联网成为未成年人获取疫情动态、坚持学习、与朋友保持沟通的重要保障。随着网络与现实生活的无缝融合，许多风险事件也随之而来。我们不妨聚焦此前几起数字风险事件及处理结果，盘点未成年人可能遭受的身心影响，涵盖不良信息、网络违法侵害、个人隐私泄密、网络游戏沉迷等风险。
未成年人在网络社交中对陌生人欠缺提防意识，人身安全存在隐患
【苏州一#男子约见 11 岁男孩遭家长堵截# 男孩母亲发声】
6 月 13 日，江苏苏州，网传一段“前新东方数学老师约见 11 岁男孩被家长堵截”视频引发关注。6 月 13 日下午，新黄河记者联系到该事件当中 11 岁男孩的母亲，据男孩母亲介绍，事发于 2022 年 6 月 11 日晚，涉事男子利用“小红书”APP，加了自己家的孩子联系方式，以辅导作业、玩游戏为由试图让男孩欺瞒父母与其相见。随后在 QQ 聊天过程中存在明显言语猥亵行为，男孩果断拒绝。男孩母亲发现该情况后，假扮儿子口吻与男子聊天见面，见面后第一时间向当地辖区派出所报案处理。该男子已被警方带走，目前正等待调查处理结果。
未成年人缺乏个人隐私保护意识，隐私泄露风险普遍存在
【推送未成年人性暗示视频，小红书回应】
2021 年 12 月 5 日，#小红书被曝未成年人性暗示#，记者查询发现该平台存在泄露未成年人隐私、留言审核不严的乱象。在其用户协议中特别指出“重视青少年儿童的个人信息保护”，但在其《儿童青少年个人信息保护规则》协议中却注明，“监护人在使用社区、晒单及其他信息发布功能时，如主动向我们提供儿童青少年的个人信息，即表示已经同意我们收集和按照本政策的内容使用未成年人的个人信息。”
有法律学者表示，如此的用户协议意味着，平台对短视频中出现未成年人的内容默认为有监护人监护，一经发布则意味着监护人同意。如此的做法，平台涉嫌将责任推卸给未成年人的监护人，也造成了目前内容审核出现的问题。
网络中存在庸俗、物质、猎奇、反科学等不良信息，严重影响未成年思想、价值观以及心理健康
【“SCP”系列视频充斥暴力血腥、教唆犯罪的内容】
李祥（化名）今年 16 岁：“我总喜欢虚拟的东西，好像可以填补我现实中某些缺少的东西。一次看到 SCP 是在 QQ 的看点视频上，当时正上初二，那个视频是在介绍 SCP-173，我点开视频，就看到“小花生”（SCP-173 别名）站在那里，然后视角转了过去，屏幕突然一黑，其实就是“我”被杀死了。
初三，我每天都会花半个多小时看看 SCP 的东西，那段时间我每天的作业都会完成得比较晚，耽误了学习。不过我成绩一直都不太好，看看这些也能放松一下。”
2021 年 4 月 26 日，北京市文化市场综合执法总队发布公告，将“SCP”列为“儿童邪典”的一种。公告称，今年 3 月以来，执法总队开展了关于“儿童邪典”视频的专项查处和治理工作，对 7 家违规平台做出了行政处罚，共清理相关违规视频 33789 个，清理儿童邪典图片 7930 张，删除相关违规内容链接 83254 条。公告还称，较以往恶搞、低俗为主的“儿童邪典”视频不同，“SCP”系列等视频多以阴暗、恐怖、惊悚为基调，充斥大量暴力血腥以及宣扬、教唆犯罪的内容，“对未成年身心健康危害极大。”
直播、游戏容易让未成年人沉迷成瘾，且存在诱导未成年人打赏、充值等恶劣行为
【小学生花光家长储蓄，参与游戏充值与直播打赏】
市民么先生向唐山晚报热线记者报料，我市 2 名小学生花光 10 万元刷直播打赏主播、玩游戏，家长很闹心。其想借助唐山晚报提醒市民，看管好孩子，别让孩子网游成瘾，损失钱财不说，还影响未成年人身心健康。了解，王先生的女儿 12 岁上六年级，儿子 8 岁上二年级。由于夫妻俩都要到外面打工，孩子上网课需要使用手机，所以王先生给两个孩子每人一部手机。
前些天，王先生的妻子发现，银行卡里的钱少了。王先生查询后发现，卡里的钱从 11 万多元变成了 5 千元，而这些钱是一家人多年的积蓄。这些钱都是女儿和儿子玩游戏、刷直播花掉的。王先生统计，两个孩子通过直播平台刷礼物共花掉 7 万多元，女儿玩手机游戏花了一万六千多元，儿子玩手机游戏花了一万多元。他赶紧联系了直播平台和游戏公司，希望能将孩子花的钱返还。
Q2 政府出台了哪些措施规范平台的数字生态？
近年来，政府密集出台了一系列针对未成年网络环境的通知、法规及治理专项，覆盖个人信息安全、价值观导向、游戏防沉迷等各类危害未成年人身心健康的突出问题，平台需要配合监管完成未成年合规改造，不得触及红线问题。
2021/2/9 《关于加强网络直播规范管理工作的指导意见》
国家互联网信息办公室、全国“扫黄打非”工作小组办公室、工业和信息化部、公安部、文化和旅游部、国家市场监督管理总局、国家广播电视总局等七部委联合发布《关于加强网络直播规范管理工作的指导意见》，加强未成年人保护。网络直播平台应当严禁为未满 16 周岁的未成年人提供网络主播账号注册服务，为已满 16 周岁但未满 18 周岁未成年人提供网络主播账号注册服务应当征得监护人同意；应当向未成年人用户提供“青少年模式”。
2021/4/2 《关于进一步加强中小学生睡眠管理工作的通知》
教育部印发《关于进一步加强中小学生睡眠管理工作的通知》，要求作业、校外培训、游戏都要为学生睡眠让路。每日 22:00 到次日 8:00 不得为未成年人提供游戏服务。
2021/7/21 中央网信办启动“清朗·暑期未成年人网络环境整治”专项行动
为营造未成年人良好上网环境，有效解决网络生态突出问题，中央网信办决定即日起启动“清朗·暑期未成年人网络环境整治”专项行动。
中央网信办有关负责人强调，专项行动期间，将进一步加大对违法违规行为的处置处罚力度，对于侵害未成年人合法权益的问题，保持“零容忍”态度，坚持露头就打、从严从重，大力整治网上危害未成年人身心健康问题乱象。各网站平台要积极履行主体责任，主动发声、深入自查、堵塞漏洞，确保专项行动取得实效，切实为未成年人营造文明、健康、向上的网络环境。
2021/8/30 《关于进一步严格管理，切实防止未成年人沉迷网络游戏的通知》
国家新闻出版署下发《关于进一步严格管理，切实防止未成年人沉迷网络游戏的通知》。针对未成年人过度使用甚至沉迷网络游戏问题，进一步严格管理措施，坚决防止未成年人沉迷网络游戏，切实保护未成年人身心健康。
2021/11/1 《个保法》
《中华人民共和国个人信息保护法》正式生效实施。《个保法》要求处理不满十四周岁未成年人个人信息应当取得未成年人的父母或者其他监护人的同意，并应当制定专门的个人信息处理规则（第三十一条）。由加强未成年人个人信息保护的社会热点和呼声，《个保法》对未满 14 岁的未成年人个人信息作为敏感个人信息予以严格保护，并在此基础上设计了监护人同意和专门处理规则的特殊要求。
2021/11/29 《关于加强网络文化市场未成年人保护工作的意见》
文旅部发布《关于加强网络文化市场未成年人保护工作的意见》。文旅部表示，部分网络文化平台存在“儿童邪典”内容、利用“网红儿童”牟利等不良现象和问题，对未成年人价值观产生错误影响，严重妨害未成年人健康成长。
2022/3/14 国家互联网信息办公室发布《未成年人网络保护条例（征求意见稿）》
条例以充分筑牢未成年人安全网为中心，全面完善和细化《中华人民共和国未成年人保护法》网络保护专章的规定。其中提到要通过内容风险、数据风险、健康风险防控保障未成年人网络安全。
2022/5/7 央文明办、文化和旅游部等四部门联合印发《关于规范网络直播打赏 加强未成年人保护的意见》
打赏行为失范等问题多发频发，导致未成年人沉溺直播、参与打赏，严重损害未成年人身心健康，为了切实加强网络直播行业规范，营造未成年人健康成长的良好环境，禁止未成年人参与直播打赏，追究相关网站平台责任，优化升级“青少年模式”。
Q3 未成年网络安全治理有哪些难点？对平台有什么影响？
结合数千家平台企业的服务经验，易盾发现互联网平台在保护未成年人网络安全时主要面临的困境主要有以下几种。
1. 平台青少年模式、防沉迷系统已普及，但认证环节漏洞较多，效能不足，未成年人可以轻松绕过；
2. 未成年心智不成熟，在各类平台中不法分子通过诱导未成年说出年龄、家庭住址、联系方式等个人隐私，获得了实施侵害未成年人的机会，需要持续对抗；
3. 影响未成年人的不良信息、行为在短视频、直播甚至在线教育平台普遍存在，且问题多样，对检测能力的”广“度要求高；
未成年安全问题触及法律底线，不仅会影响平台信誉以及社区氛围，严重的情况下还可能导致企业被罚款、下线整改、甚至关停。
让暑期未成年人远离网络风险，全栈式解决方案保驾护航
易盾搭建了一套完整的未成年人网络保护解决方案，为平台提供便利服务。方案在注册环节就对未成年用户进行识别，配合基础资料、行为分析、与
UGC 社交内容审核，从自动化 AI 到人工复核，实现精准、全面、多维度护航未成年网络安全。点此了解未成年人保护解决方案
1 提升“防沉迷”效能
问题：平台青少年模式、防沉迷系统已普及，但认证环节漏洞较多，效能不足，未成年人可以轻松绕过
方案亮点：全方位手段保证账号背后人的真实年龄，平台可根据账号真人年龄进行防沉迷等功能限制，以加大对未成年人出镜直播、沉迷游戏等问题的处置力度。
易盾实名认证未成年身份，通过活体检测、人脸比对、身份证 OCR 等技术全面快速核验真实身份信息，将真人为未成年的标记成未成年用户。
2 护航未成年个人隐私
问题：由于未成年人的心智仍不成熟，在各类平台中不法分子通过诱导未成年说出年龄、家庭住址、联系方式等个人隐私，获得了实施侵害未成年人的机会。
方案亮点：易盾根据注册时的实名认证及未成年人脸识别，标记未成年用户并输出标签。平台可自动判定向他人隐藏未成年人资料信息，且在未成年与陌生人聊天时给到弹窗提示。
图 | 小猪佩奇、scp基金会邪典系列
图 | 恋童癖、表情包
3 负面信息有效拦截
问题：
1. 短视频、直播中存在炫富拜金、奢靡享乐、卖惨“审丑”等不良现象，易对未成年人形成不良价值观导向；
2. 未成年人在线教育课程中存在色情低俗、血腥暴力及其他导向不良内容， 且会推送网络游戏、低俗小说、娱乐直播等与学习无关的广告信息；
3. 不良动漫动画作品，散布暴力血腥、暗黑恐怖、教唆犯罪等“邪典”内容，角色着装暴露，情节色情低俗；
4. 论坛社区、群圈中存在教唆诱未成年人拍摄色情低俗视频等严重问题，利用儿童形象制作软色情表情包等行为；
5. “饭圈”乱象，存在诱导未成年人应援集资、高额消费、投票打榜、互撕谩骂、拉踩引战、刷量控评等不良行为；
6. 网络上人肉搜索、人身攻击、恶意举报等网络欺凌和暴力行为形成不良导向、严重扭曲青少年价值观。
方案亮点：人机审核相结合，在文本、图片、音视频等多个业务场景，实现对未成年不易接受内容、侵犯未成年人内容的全面覆盖，严防此类信息的放出或推荐给未成年用户；
一是，对网络炫富乱象进行了专项防控，布控了炫富素材包买卖相关信息 30 余个，包含豪奢餐饮、豪华汽车、天价豪宅、奢侈品、摆拍人民币、体验式炫富等多个维度。人脸颜值检测能通过输出颜值分，平台可利用分数将得分较低的人脸进行限流，防止推荐给未成年用户；
二是，对于在线教育平台有专门的未成年策略集配置，有效防止低俗类、谩骂类等内容的传播；
三是，儿童色情模型检测能力和血腥模型检测能力，能够对艾莎门、蜘蛛侠等邪典游戏动画和 SCP 基金会等邪典图文有效拦截；
四是，对诱导拍摄色情、低俗视频等问题，易盾有着很强的检测力，且对儿童形象软色情包做了深入检测发现覆盖；
五是，专家深入粉丝群体，了解应援集资和打投等话术，在内容上布控限时认购、开通通道等相应策略；对于互撕谩骂、拉踩引战等内容也做了布防，包括明星黑称、粉丝黑称及饭圈互撕专用话术；
六是，布控了人肉搜索工具、教程、软件，以及暴力伤害等一系列策略进行拦截，能有效防止未成年人受到不良影响；
此外，易盾还深入了解涉及未成年的价值观问题，出台了包括腐文化、封建迷信、恐怖灵异、非法传教、宣扬涉黑文化、未成年交友、恋童虐童、校园暴力、涉同性交友、涉未成年出道、未成年诈骗等各类内容的安全策略。
4 不良行为检测力强
问题：未成年群体具有好奇心强，自制力弱且渴望得到关注和认同等心理特点，网络上出现同龄人的不良行为，易产生破窗效应，导致争相模仿。
方案亮点：图片及视频业务场景，能够对喝酒、抽烟、纹身、竖中指等未成年不良行为进行检测拦截，避免这类行为在未成年群体中产生示范效应。
“清朗”专项行动每年暑期前后都在为未成年人保驾护航，行动对于侵害未成年人合法权益的问题，保持“零容忍”态度，坚持露头就打、从严从重，大力整治网上危害未成年人身心健康问题乱象。各网站平台也需履行主体责任，主动发声、深入自查、堵塞漏洞，确保专项行动取得实效，切实为未成年人营造文明、健康、向上的网络环境。