即将迎来2024年的双十一狂欢购物节。作为电商行业全年最重要的一个时间节点，已经成为中国电商行业发展的一个缩影和代名词。
在2024年的前三季度，我国的电子商务行业持续展现出蓬勃的发展态势。作为数字经济的核心组成部分，电子商务的发展不仅引领了经济的新动能，还为各行各业带来了前所未有的机遇和挑战。
据国家统计局发布的数据，2024年前三季度，全国网上零售额达到了10.9万亿元，同比增长8.6%。这一数据不仅表明了电子商务在我国经济中的重要地位，也反映了消费者对线上购物的高度依赖和信任。在疫情期间，电子商务的便捷性和高效性更是得到了充分体现，推动了消费模式的创新和升级。
“能力越大，责任越大。”这是电影《蜘蛛侠》中的著名台词。然而用在电商行业上时，我们或许可以说：经济贡献度越大，产业安全越重要。
拥有如此庞大的经济贡献，在经历过野蛮发展，走向追求高质量发展之路时，安全则是电商行业首先需要面对的命题。
商品介绍需要遵循《广告法》、商品评论需要注意合规问题、主播带货需要言行合规、营销活动需要对抗职业羊毛党、渠道推广需要防刷量作弊、移动App遭遇被破解&被劫持等等，细数电商安全风险，场景复杂，危害巨大。
电商的数字内容风控体系建设，道阻且长，却又是当务之急。
01 电商产业的高质量之路，安全是第一步
内容电商时代，内容风险加剧
以直播电商为代表的内容电商，正在逐步成为“双11”购物狂欢节最重要的组成部分之一，也是最引人关注的重头戏。如今打开任何一个电商App，三屏之内必有直播入口。
“内容种草”时代的带来，也让广大电商平台逐步意识到，这场双11助力下的内容电商争夺战，正向内容安全领域蔓延。
常见的电商内容风险场景包括用户昵称、头像、商品评论、回复、私信、买家秀等可能存在涉政、涉黄、辱骂等违规内容；电商类平台通常会遭受大量导流广告、欺诈广告、竞品广告等有目的性的攻击；商家发布的商品信息还可能存在如违规使用国旗、包含色情内容、违反国家利益等违反法广告法。
在直播场景下，主播行为不当（穿着暴露、言语低俗、做出一些引诱性动作、镜头视角特殊：镜头朝向自己易引发联想的部位如裆部、臀部、胸部、二维码打赏引流、出现不文明行为如喝酒、抽烟、赌博、吸毒、竖中指）和粉丝互动不当（出现不当言论，如性暗示；出现辱骂言论，有损主播形象和平台健康）则是风险概率最高的两大场景，又因为直播检测的时效性要求高，因此防控难度也最大。
面对日益激烈的内容电商争夺战，电商平台需要构建起自己的内容安全“护城河”。
应用安全既为保护业务载体，也为用户体验
进入移动互联网后，网页购物随着移动互联网技术与产品的演化，似乎已将被淘汰，甚至部分电商巨头并不提供网页购物方式，只通过移动App向用户提供服务。
因此，作为用户使用电商的最重要的通道，移动App安全的重要性也不言而喻。除了应用本身可能面临App被盗刷仿冒、界面劫持、密码输入监听、个人隐私泄露等安全问题，在应用开发阶段还存在合规性问题。
《中华人民共和国个人信息保护法》于2021年11月1日起施行。其中，第十条 任何组织、个人不得非法收集、使用、加工、传输他人个人信息，不得非法买卖、提供或者公开他人个人信息；不得从事危害国家安全、公共利益的个人信息处理活动。
网信办、工信部、公安部、市场监督管理局等部门均对移动应用开发隐私合规与否具有监督与执法权力。
就隐私保护这件事本身而言，电商App基本包含了用户大量的个人隐私信息：姓名、联系电话、家庭住址、购物记录、支付金额等等。做好隐私合规既为了保护开发者自己，更是为用户提供更好的使用体验。
“头号敌人”黑灰产侵蚀各方利益
薅羊毛，是近年来数字经济发展中流行的网络热词，主要指消费者利用商家推出的各种优惠补贴使购物更加经济实惠。与此同时，有人发现了“薅羊毛”暴富的路径，一个现象级的新生职业群体——“羊毛团伙”由此出现。
与普通消费者享受平台的优惠不同，“羊毛团伙”呈现“职业化、专业化、团队化、跨国化”趋势，成为“羊毛经济”背后的“薅羊毛”黑灰色产业链。据报道，我国“羊毛团伙”灰色产业市场规模逾1000亿元，严重影响我国平台经济的健康发展。
网易易盾黑灰产研究院通过长期研究发现，在电商营销上，主要存在以下几个常见的黑灰产作案场景：新用户注册薅优惠券、营销活动薅羊毛、推广流量作弊、虚假用户裂变、黄牛套利、修改地址薅特定优惠券等。
通过这些场景，黑灰产侵蚀的并不止某一方的利益，而是作为游戏规则的破坏者，侵蚀平台、商家、消费者等各方利益。
02 电商数字安全体系建设的最佳实践
针对当前国内的电商政策要求以及电商场景内容风险特征的演变，网易易盾电商内容安全解决方案持续升级迭代，并针对不同客户场景提供定制化风控策略，目前已经为国内数十家电商平台、大型电商商家提供从检测到审核到处置的一体化内容风控服务。以下将从各个细分应用场景具体介绍方案：
1.用户资料合规检测
网易易盾AI内容检测产品在平台型电商上对用户昵称、用户头像进行自动检测，包括检测用户资料中填写的信息，尤其是偏敏感的内容控制，以及对违规型头像进行检测。
2.用户评论审核
一些品类的商品中，容易出现低俗、灌水、导流以及对平台造成负面影响的内容。例如二维码、URL、联系方式等广告导流，性暗示、不雅动作、低俗谩骂等低俗评价，负面价格评价、负面服务评价等煽动性负面内容，以及刷单、无意义大面积评价等灌水内容。
3.商品详情检测
随着技术的发展，商品详情页的内容展现形式也就越来丰富。商家们除了需要做违规内容检测外，还需要对于广告法合规进行管控。易盾检测产品通过图片与文本识别，对限时性用语、涉嫌诱导消费者、涉嫌欺诈消费者、法律风险较高、极限词等精细化分类进行检测。
4.电商直播实时监测
电商直播常面临的内容风险：1.主播行为不当（穿着暴露，言语低俗，做出一些引诱性动作，镜头视角特殊，二维码打赏引流，出现不文明行为如喝酒、抽烟、赌博、吸毒、竖中指）；2.粉丝互动不当（出现不当言论，如性暗示，出现辱骂言论，有损主播形象和平台健康）；3.一些实时性的违规内容。
5.平台型社区内容风控
电商社区化更多以社区运营、内容运营为主，最后内容中间携带商品元素的方式形成导购路径。作为产品UGC内容的聚集地，电商社区是用户停留时长较多板块，也是违规内容产生的高危板块。
网易易盾一直利用人工智能与大数据技术，不断深耕“内容安全”的行业场景，组建一支业界领先的内容识别算法研发团队，具备由NLP、计算机视觉、OCR、音频检测、行为识别、图片聚类等为代表的核心技术，通过“图、文、音、视AI机器检测”与“人工审核”相结合，并通过智能审核管理系统进行统一管理的方案，助力直播客户构建数字内容合规体系。
此外，网易易盾还开发了全链路风控解决方案，提供最新技术和庞大数据库为电商业务护航。
具体方案包括——
（1）贯穿事前—事中—事后的全流程风控机制
● 事前预防：通过数据采集收集用户侧信息、通过业务规则来限定参与活动的门槛、通过身份核验来确认用户身份等手段，防止风险事件的发生。
● 事中检测处置：通过实时在线的手段来检测风险，并做相应的风险处置，最大限度地防控风险事件。
● 事后分析回馈：基于长周期的离线数据分析，计算用户侧、设备侧、IP侧、业务侧的各种风险特征，并作用于事前风控和事中风控。
（2）精准覆盖各场景下的安全产品
● 行为式验证码：搭载风险感知引擎，智能切换验证难度，有着超10亿次完美验证，形成了业务安全第一道防线。
● 注册保护：能够有效识别批量注册、手机黑卡注册等恶意注册行为，防御垃圾账号产生，识别注册风险。
● 登录保护：实时监测撞库攻击、模拟器登录、代理IP登录等恶意登录行为。
● 营销反作弊：实时识别刷单、刷票、刷券等营销作弊行为，能够从源头上防范作弊损失，保障实施效果。
（3）升级智能对抗，构建更加安全的防护体系
作弊方式在持续升级，新的黑产工具利用业务逻辑漏洞，使用真人托、真实账号挂机等手段，常规的安全服务难以再继续满足防护需求，为此，网易易盾从以下层面进行了全方位的智能对抗升级：
● 人工智能+大数据：机器的行为总是有规律可循的。可以通过人工智能对触摸、陀螺仪的数据，以及浏览器上的鼠标移动、点击等行为，结合设备指纹、业务场景等进行建模分析。网易易盾已经积累了非常丰富的人机样本数据，训练出了高准确率的行为模型，能有效识别机器行为。
● 关联分析+快速模型迭代：首先，可以基于用户在一段时间内所有业务相关的数据建立关系链，这些关系链将构成一个总网络；然后，搜索网络中的所有子网络，进行连通图分割；其次，遍历每个子网络，获取网络标签，挖掘网络特征；最后，通过机器学习构建识别黑灰产的网络模型。通过上述四层技术的加码，网易易盾为客户提供了更加全面安全防护体系，我们称之为“全流程”防御体系。其覆盖了用户注册到注销的所有行为节点，记录了上千个维度的用户行为数据，进而分析亿级的用户关系网络，利用机器学习平台每日处理数TB级别的数据。
以网易易盾对某跨境电商的服务实践为例：
——该跨境电商在2019年频繁遭受营销黑产侵害，每月都有千万级推广资源被截取，也极大损害了正常消费者的购物体验。恶意订单高于平时正常水平一倍，每月营销推广费用损失数百万以上。
——网易易盾成为该平台的安全服务伙伴后，采取了“人机识别+业务风控”的组合拳，打击范围覆盖垃圾注册、刷库撞库、营销作弊、黄牛刷单、海关风险、用户恶意行为等多种风险，从拍、评、退、投多链路监控和识别，同时增加价格异常类的监测和拦截。
——最终实现单季度挽回资损超1000万元，投诉来电量下降70%，成功帮助该电商在减少利益损失的同时，提升客户体验满意度。
数字化为零售电商行业带来了多样化的营销渠道和广阔的市场拓展机会。然而，这也使得商家面临更加多变和复杂的安全挑战。网易易盾安全团队就像“守夜人”，于无声处助力电商客户建设维护数字内容风控体系，竭尽全力助力伙伴们的618、双十一圆满收官。