未成年人保护一直是国内外网络工作的重点。2025 年元旦刚好是国内《未成年人网络保护条例》施行 1 周年,国家网信办近期也采取了一系列行动呼应此事件:去年 12 月 19 日,国家互联网信息办公室发布公告,在《未成年人网络保护条例》实施近 1 周年之际,网信部门依托“清朗”系列专项行动,聚焦可能影响未成年人身心健康的各类新问题新情况,通报部分典型案例。
(国家网信办通报截图)
无独有偶,去年 12 月 6 日,全球范围内多款社交应用被 Google Play 和 App Store 同时下架。据不完全统计:iOS 平台累计下架应用 64 个(美区社交类),Google 平台累计下架应用 249 个(美区社交类),包括知名的社交出海应用 Mico、Bigo Live、LiveMe+,美国老牌社交应用 Tango 被双端下架。12 月 7 日,相关讨论和分析开始出现,主要集中在未成年人保护,特别是与儿童性犯罪相关的内容和内容合规性问题上。《纽约时报》随后发布调查报道,指出社交直播类应用存在大量涉儿童色情等侵害未成年人权益的现象。
(近期未成年人保护事件脉络,易盾安全专家整理)
苹果、谷歌双端全球性下架上千款 App,其中波及数百个社交娱乐领域出海应用,引起行业震荡。易盾安全专家从平台规则梳理、海外政策研究、国际社会舆情信息等方面梳理、分析后认为:此次大范围下架是针对涉未成年人尤其是涉儿童色情、性虐待等问题的大力度整治。安全专家接下来将从上述三个维度,细致为大家梳理分析,并最终给出未成年人保护的合规建议。
一、海外社交直播应用遭受大力监管原因分析
(一)应用平台规则梳理
2024 年 12 月 4 日,谷歌出台新的【约会和陪伴服务广告】政策及广告客户认证计划。根据这项平台政策,广告客户必须先获得 Google 认证,然后才能通过 Google Ads 投放约会或陪伴服务相关广告。谷歌同时表示,后续会更新不当内容政策和色情内容政策,并计划将【约会和陪伴服务广告】的要求转移到新政策中。新政定于 2025 年 3 月 4 日正式执行,虽然该政策主要针对广告市场规则,但由于出台时间和应用下架时间接近而显得十分微妙,业内推测应用下架或许与这项政策有关。新政策中对社交应用禁止出现的广告信息、元素等做了非常明确的说明。
谷歌的广告细分类型主要包括八种:(1)搜索广告;(2)展示广告;(3)视频广告;(4)购物广告;(5)应用广告;(6)发现广告;(7)智能营销广告;(8)本地广告。
易盾安全专家分析总结:
根据联合国《〈儿童权利公约〉关于买卖儿童、儿童卖淫和儿童色情制品问题的任择议定书》(2009)中的定义,“儿童色情是指以任何手段显示儿童进行真实或模拟的露骨性活动或主要为诲淫而显示儿童性器官的内容。”需要说明的是,《儿童权利公约》将“儿童”界定为“18岁以下的任何人”,即平台政策所讨论的未成年人。
互联网的发展便利了未成年人色情材料的广泛传播,便利了侵害人制作、获取、观看、传播、分享未成年人色情材料。未成年人因其身心、智力等方面尚未成熟,性认识能力欠缺,一旦遭受性侵害,危害后果严重。
谷歌无论是禁止性还是限制性的广告内容要求,其均体现了对包括少儿在内的未成年人色情议题的关注。除了明示的禁止“宣传未成年人约会”和限制“广告着陆页少儿不宜的内容”,其他几项规定对未成年同样具有适用性,体现了谷歌在应对相关问题上的严厉态度。
(二)海外政策法规研究
1. 美国监管政策方向变化
此次下架应用的平台方谷歌和苹果公司都是美国大型科技企业,根植于本土环境和形势,业内推测下架行为与该国的政府部门变化和相关部门推动息息相关。
共和党特朗普即将当选美国总统,其在竞选时声称将在上台后针对极端自由主义派人士,严厉打击和禁止“变性意识形态”,积极维护未成年人的权益。特朗普称,“孩子们应该在健康、安全、和谐的环境中成长”,而校园不应成为推行“批判性种族理论”或“性别意识形态”的试验场。由此推测相关部门已开始着手为后续政策实施作前置准备,能够让两家头部应用市场步调一致的针对同一类型产品执行下架操作。
可以预见,政党更替下关于性别、年龄保护相关政策的两极巨变也将深刻影响各类应用的宣传内容风向,尤其是与未成年隐私、身心发展更为密切的社交陪伴类 App 更将首当其冲,具备自检和整改的必然性。这为接下来一段时期的网络内容管理奠定了基调,将深刻影响娱乐社交领域 App 内容安全策略选择。
2. 国际儿童网络保护趋严
2024 年 11 月 28 日,澳大利亚联邦参议院投票通过了对该国 16 岁以下人群实施社交媒体禁令的法案。根据这一法案,16 岁以下未成年人即使获得家长同意也不能使用社交媒体平台。对存在系统性违规的社交媒体平台最高可处以 4950 万澳元罚款。同时,社交媒体公司不能强迫用户提供评估年龄的政府身份证件。该法案被评为“全球最严社交媒体禁令”。
就在澳大利亚通过该法案后不久,根据澎湃新闻报道,瑞典、挪威、英国、法国、印尼、巴布亚新几内亚等国也考虑采取类似的限制措施,批评人士认为,这些禁令将剥夺儿童接触社交媒体的积极方面的机会,还会剥夺平台打造更安全的网络空间的动力,而社交媒体巨头 TikTok、Meta 则回应此举会留下许多悬而未决的问题。
易盾安全专家分析认为:
这一禁令能否保护青少年免受社交网络上的伤害,抑或是将他们推向更隐秘的线上危险地带,可能还有待商榷。但当月进行的一项民调显示,77% 的澳大利亚人支持对该国 16 岁以下人群实施社交媒体禁令,这或是谷歌和苹果充分考量后,大量下架相关应用的导火索之一。
(三)国际社会舆情信息
1.《纽约时报》发布调查报道
在各应用被双端平台大量下架之际,《纽约时报》发布调查报道,指出社交直播类应用存在大量涉儿童色情等侵害未成年人权益的现象,主要包括以下几种情形:
(《纽约时报》调查,易盾安全专家整理)
2. 国际社会舆论监督与举报
严峻形势也引发较多社会舆论和监督举报。2024 年 11 月 5 日,儿童安全倡导者在纽约中央车站的 Apple 线下店外举行示威活动,抗议苹果和谷歌对这类应用的监管不力。根据《纽约时报》的报道,此前还有一名 39 岁犹他州男子曾通过 Bigo Live 付费观看性虐待儿童视频,之后他保存视频并向加拿大儿童保护中心及 Bigo Live 举报了这些行为。
在社会舆论和监督举报的影响下,苹果和谷歌均表示对儿童性虐待内容采取零容忍态度,已删除或暂停了被举报的应用,并升级了审核系统。两家公司均要求应用开发商对其平台上的用户生成内容进行监管。
苹果表示,其应用审核团队全天候审核每款新应用和应用更新,确保其符合质量和安全标准,同时改变了搜索建议,不再推荐成人内容。而谷歌表示,对于《纽约时报》举报的应用程序,虽然并未立即发现儿童性虐待内容,但出于高度谨慎,暂停了这些应用程序,并联系了开发人员。
二、娱乐社交平台出海未成年人保护合规建议
在未成年人保护政策、监管手段和渠道平台管理规则趋严的情况下,平台需要对未成年人内容合规能力提出更高要求。应用整改上架是当务之急,但更多工作需要侧重在上架后的合规运营上,才能保障业务的可持续发展。
易盾安全专家认为:全视域风险把控能力、目标市场政策管理和适应能力、内生技术防控能力是平台必须要关注并掌握的诀窍。
1. 全视域风险把控能力
对于自身产品功能服务风险进行全面梳理,形成全域掌控力。
一是排查如秀场直播、评论互动、广告投放等重点功能模块,进行未成年人保护风险评估;
二是重点排查涉未成年人内容,尤其是利用儿童感兴趣的内容和互动形式传播儿童色情内容或实施儿童性虐待的内容;
三是加强未成年人账号排查,采取分龄验证、内容分层等方式提供未成年人适宜内容;
四是排查涉儿童色情、儿童性犯罪、成人色情、性交易等举报投诉违规内容清查,完善未成年人侵害行为处理、反馈和救助机制,尽可能避免红线问题进一步传播和舆情发酵。
2. 目标市场政策管理和适应能力
不同国家和地区针对未成年人保护颁布了各自的法规、禁令,地缘政治、历史、文化、宗教信仰和风俗习俗等也存在较大差异。要想更好的适应目标市场监管环境,需要对其影响因素进行跟踪、管理和遵守。聚焦未成年人保护和色情内容问题,不同国家和地区管理尺度有较大区别:
此外在涉及国家政治、宗教、种族文化、赌博、违禁、虚假信息、广告等内容要求均有所区别,企业需要结合目标市场情况制定精细化内容合规运营策略,以避免踩中红线底线导致违规处罚甚至下架。
3. 内生技术防控能力
综合社交场景风险的复杂性性、不同国家和地区治理的多样性,以及安全治理态势的趋严性,出海平台需要充分把控内容安全的不确定性,化风险为机遇,尤其是社交娱乐行业相关,打造一套完整的数字内容风控体系应该成为比“增长”优先级更高的任务。