来源：安在 作者：流苏是苏苏
“安在讲堂”是由安在新媒体在千聊平台直播间全新开设的“网络安全公益讲座”系列栏目，广邀业内一线专家和安全大咖作为嘉宾，聚焦行业关注、响应从业者呼声，一同探索网络安全行业“危机下的规划与变化”。
2020年3月28日晚，安在新媒体携手网易共同举办了安在讲堂网络安全公益讲座第一季特别专场，以“泛社交业务安全风控”为主题，进行了深入的探讨和分享。网易易盾首席产品风控官imlolo、恺英网络信息安全总监杨晓栋、VIPKID业务安全专家冯博围绕着活动主题发表各自的见解和看法。
一、泛社交业务安全风控大家谈
话题一：我们常说业务安全很重要，但到底怎么理解业务安全，有无确切定义？或者谁来定义？业务部门还是安全部门？
杨晓栋：七八年前企业做业务安全测试会发现一类业务逻辑问题，例如某电商业务的产品，通过前端修改数据就可以以很低的价格甚至零价格成交。这些问题虽然对基础安全没什么影响，但却会给业务带来很大的挑战。如果后台缺少审计，就可能造成经济利益损失。
这些个别的业务逻辑问题催生了一批业余羊毛党，通过低价购买商品获取了部分经济利益。随着互联网的发展，大量的企业推广活动上线，薅羊毛行为开始以自动化、批量化、体系化的方式来推进，职业羊毛党也就出现了。
职业羊毛党的高效运作给线上的推广活动造成了巨大的损失，为此，企业形成了账号业务、内容业务、运营业务等场景的业务风控，以便应对职业羊毛党的薅羊毛行为。
对于业务安全的定义目前还没有官方的解释。我个人的理解是不以预设逻辑流转的业务都可以成为业务安全的隐患，只是影响度不同。至于企业哪个角色来定义业务完全，可以让业务部门、安全部门、运营部门联合进行。
冯博：我认为业务安全主要包括两方面：一是用户安全，二是企业安全。在整个用户生命周期中，用户安全主要涉及注册登录、发布内容、购买商品、收退货等场景。
企业安全主要是防范黑产。黑产主要是安全和风控两个团队来处理；法律风险主导的还是法务部门；运营风险方面市场和财务占比更多一些；技术风险包括漏洞、DDOS攻击等更偏向于基础安全。业务安全其实不是一个部门能解决，更多的是对企业运营过程中可能存在的风险作出定位评估，并且利用技术工具、市场策略的调整、法律证据的收集等方法，对不同的风险做出最有利于企业发展的决策，并且推动各团队快速落地。
Imlolo：我认为，业务安全其实是没有确切定义的，往大了说，业务在运营过程中涉及的所有安全问题，都统称为业务安全。
这与安全部门控制风险，治理问题，保障业务安全运营的职能有很大关系。安全部门需要从落实政策角度出发。而站在业务的角度，需要考虑的是用户体验，运营平衡，考虑业务发展，比如是否存在薅羊毛的行为，对平台产生资损，是否存在虚假注册，拉低平台的用户质量等。所以为了解决不同的问题，我们逐步剥离出内容安全、网络安全、移动安全，由专业的人负责更垂直的事情，而其他围绕业务产生的新安全问题统称为业务安全，也叫业务风控。当然，从治理的角度，解决方法可以是交叉的，串行的，比如业务风控部门也有可能解决内容安全的问题，具体就看各个公司的业务情况及内部分工了。所以总结来说，业务安全是没有明确定义的，但是它紧贴业务，根据新风险不断加强治理能力是一定的。未来，业务安全能解决的问题也将越来越具体，越来越场景化。
话题二：疫情当下，这样的黑天鹅，对互联网业务为主的企业有怎样的影响？
杨晓栋：疫情对互联网业务为主的企业的影响大致可分为对企业经营的影响和运营的影响。短期的话业务量明显增长，因为这段时间消费者处于隔离状态，很多线下业务都由线上来完成，因此导致互联网业务出现短期的爆发。不过从长时期来看，由于疫情导致消费萎缩，经济整体下滑，所以整个行业都会有影响。
从运营环境来看，泛社交企业的信息化处于行业领先地位，绝大多数日常的运营可以通过远程办公来完成。但是远程办公也会带来一定的安全问题，例如数据保护题、权限控制等问题，所以对泛社交企业的影响主要集中在安全管控方面。
冯博：疫情这种黑天鹅事件对于互联网业务本身影响并不是非常大，而且存在一定的增长，和实体行业相比，泛娱乐、泛社交以及互联网教育都在向上增长。另外依托于互联网的业务可以不需要现场办公，可以在家远程办公完成，所以影响不是很大。
Imlolo：对于我们所服务的厂商多是文娱社交产品来说，业务影响并不是很大，因为用户线上时间变多，访问量活跃度都有大幅提升，但是对我们业务风控部门来说，支持业务的压力变大了。
这次疫情对我的最大的启发就是，各个企业中的风控部门平时就需要对紧急情况进行准备，尤其是积累建设业务风控能力非常重要，主要分为以下几个方面：
第一个是治理经验，主要体现在配合各类业务营销活动的经验沉淀，在面对突发情况，我们需要快速配合业务部门上线风控策略，这里面涉及到对活动规则的安全审计，对活动玩法的风险评控，以及制定的风控策略对用户体验的平衡。如果我们已经具备积累多场景多玩法的活动风控案例，那在这个环节上就可以事半功倍。
其次是平台能力，各类营销活动同时接入，我们的业务安全人员只需简单的交互操作，就能完成对应活动玩法的风控模型配置，解放业务安全人员机械式的对接活动的工作；
最后是系统的冗余处理能力，面对DAU的疯狂上涨，风控系统需要具备动态扩容的能力，来轻松应对高并发流量。所以这场疫情，对业务风控部门是一个不小的挑战。所幸，易盾依靠平时的积累，关键时刻，这块做的还是挺不错的。
话题三：请各位嘉宾分享一下，在各自熟悉的领域，业务安全问题有哪些典型场景和案例？
杨晓栋：（侧重在监管和业务安全的关系？）
现在很多行业都在社交化发展，游戏行业也是如此，我主要讲下游戏行业的典型场景和案例。
1.关于游戏渠道流量作弊的场景。游戏推广以点击流量作为付费向量，在职业羊毛眼里，点击流量可以通过大量的僵尸设备进行伪造并获得收益。对应的防控措施是通过风控系统对设备的活动状态进行检测，可以规避流量作弊带来的影响。
2.游戏装备发货的场景。游戏装备一般在游戏环节发起，然后去平台进行校验支付，黑厂可以通过修改返回字符串的方式绕过，最终实现不付费获得装备。
3.内容安全也和监管密切相关。当游戏中用户发帖的留言板存在涉政、涉黄、暴恐、广告导流等风险内容时，在合规上就会出现问题。例如当时台湾一个游戏就含有涉政内容，最终导致游戏下架，相关代理商被问责。还有一些游戏存在教唆自杀的情况，最终也被下架了。
冯博：（侧重在社交或账户治理方面？）
教育行业主要是针对师生间的互动交流进行监控。比如孩子上课着装、言语，老师分享与课程没有关系的内容，对孩子和家长产生不好的影响，以及企业发布的一些内容，包括营销广告、课件、课程等。
在上课和师生交流的过程中，我们主要做的是文本识别、图像识别以及人工的审核。在课件和新媒体等方面，我们主要建立了“发布、申请、审核”的全流程精致，并制定了相应的内容发布的安全标准。
这样业务团队在发布内容时就可以严格执行标准。对于一些涉及用户个人敏感信息、政治敏感的内容我们也会重点关注。比如地图、国际会议，这方面就需要特别关注。
imlolo：（对网易这样成熟的互联网企业来讲，业务安全风控经验？）
回答这个问题必须要先谈风险的源头——黑色产业链。黑产现在的规模已经是一个完整的产业链了，17年的时候已经达到150万人， 为了获取更多的利益，黑产也在不断的优化他们的攻击模式和团队分工。根据网易易盾灰黑产研究，黑产根据供求关系，分为上下游，上游主要负责生产和提供各类黑产资源。相关角色包括：卡商（号商）、黑产工具开发者。下游包括接码平台、账号代售平台、刷量工作室、刷手等。这里就不详细介绍了，想深入了解的话，可以关注我们网易易盾官方公众号（ID：yidun_163yun）。
根据不同的作弊方式，利益越高，风险越大。从危害角度，一般主要分为资金风险和影响运营平衡。资金风险主要是以薅羊毛和欺诈为主；薅羊毛是指利用平台规则漏洞，用非法手段获取平台利益，灰黑产会通过大量抢占平台资源，倒卖低价商品赚取差价获利。欺诈主要是诱骗行为居多。
而下面这些主要是破坏社区氛围，严重影响用户体验的：
► 刷量：通过机器手段，人为干涉热度，比如高阅读量、高访问量、高关注量、高点赞量、高投票量等，来营造“热门“、”优质“的假象；
► 引流：在UGC场景下比较多，目的通过批量刷屏来增加曝光概率，恶意抢占热门资源的行为。
接下来给大家分享几个遇到过的案例：
案例一：拉新活动引入传销玩法平台损失严重：客户找到我们时，有如下问题：一个是注册拉新被薅羊毛，另外个则是平台内容安全治理能力有限。我们分析了之后发现：活动的玩法很诱人：是引入了传销玩法（A 邀请 B，B 的消费 A 可以提成），平台资损将更大。黑产的攻击手段：是通过手机黑卡，利用批量注册手段（改机软件+自动化工具），在平台批量注册新号，来谋取不当奖励。
案例二：因为用户关注问题导致新功能流产：非社交的产品为了增加用户粘性，引入了交友功能，第一期上线关注功能。上线不到一周，运营收到用户投诉，主要是用户一打开App，私信列表中一堆关注者打招呼，而用户并没有做任何曝光的行为。用户被骚扰严重，设置怀疑是平台的“运营手段”。用户反馈直斥：平台用力过猛。
上面介绍的几个案例，最终的影响就是导致平台大量用户流失，在风控体系没有建立的情况下，业务为了增长设计的新活动新玩法都留不住用户。
那么，怎么解决这些问题呢？加强风控能力建设，完善风控体系。结合网易易盾的实践经验，这里给大家介绍方法：贴合业务流程的全链路风控。大家看下业务流程图：
设计思路：遵循用户行为路径，在各个业务节点进行防控，这样的好处是可以定位每一个可能产生异常行为的业务节点，并且针对每个节点的风险去治理，最终实现风控整理治理的效果。比如：加好友环节，用户行为路径是：注册→登录→发私信,需要遵循用户的行为路径在各个业务节点进行埋点、风控检测。
其中，风险检测包括：a）当用户注册时，分析这次注册是否为正常注册，如果产生机器注册、批量注册、小号注册等异常行为，需要针对账户或相关资源进行高危标记。如果判断不了，数据留存转入登录环节进行判断；b）当用户登录时，分析登录行为是否异常，是否是批量登录、撞库攻击、暴力破解、养号登录等。如果是，增加二次校验，或者做出标记流转至发布环节进行判断；c）当用户发私信时，判断内容和用户的发布行为是否异常。如果异常则阻止发布或者进行二次验证，并且将数据同步至全部节点作为特征辅助。
可以看到，我们没有在一个业务节点中去解决所有的安全问题，而是从整个业务流程出发，将用户的行为按照业务节点进行拆分，在每一个业务节点都针对性的布控，从面到点，再从点到面，这样就达到了各个击破的效果。这种方法在黑产每一个动作上都产生了影响，因为黑产追求高效，在业务流程上的行为上是分散的，这与他们的团队分工有关。因此，对黑产而言，在每一个节点上的流转都是向利益转化更近一步，业务流程越靠后，黑产特征就会越来越明显，危害也越大。所以黑产想完全破解这样的风控策略成本会变得非常高。这也是为什么全链路风控会起到比较好的风控效果的主要原因。
总结一下：
1. 业务风控是一场持久战，只有当黑产的投入成本低于收益时，对抗才会逐渐减少。这个时候黑产会向另外的高流量产品进行转移，如此循环……所以业务风控切入点是提升黑产成本；
2. 根据黑产画像，黑灰产成本由人和资源组成。黑产资源主要由工具、具有唯一性的设备、账号、身份信息等组成，从可控性来讲，打击黑产资源更可控。即提升黑产的攻击成本，对具有唯一性的设备、账号、身份信息进行打击，使它不会为黑产带来利益，所以风控的治理核心打击黑产资源；
3. 处罚思路上：轻管控、重检测、快迭代。在注册、登录等环节对异常账号进行标记，但不处罚，在每一个业务节点将上一环节的检测结果向下输送，直至在末端场景中或UGC场景中阻断风险行为；
4. 全链路风控的好处：保护用户体验；提高黑产试错成本，提升风控效果。
话题四：对于前述问题，有何解决之道？以及未来如何？
杨晓栋：（业务风控常规对策及利弊分析？）
业务风控常规对策主要看面临的风险。比如账号安全主要针对账户盗用、身份冒用、账户诈骗等风险，通过数据建立相应的策略体系捕获异常，然后在用户登录支付账号时进行拦截等。
内容安全可以通过文本审核、内容审核、语音审核来过滤一些内容。比如文本审核就可以跟政府建立一套关键字的日常沟通机制，库也会处于定期的更新，当识别到非法的内容就可以采取删除、封号等操作。
风控的常规对策可以建立在事前、事中、事后的立体化防护体系。事前主要是风险意识的普及和提供一些风控服务。我们可以深入调研业务，建立应用场景，在大型活动推广之前建立针对性的策略。事中可以分析防护日志，比如某条策略有很大的防护作用，那么可以标准化，还可以对风险事件进行核查，输出风险事件的处置效率，通知受损的用户和业务。事后可以对数据进行聚合，对抓取的业务数据进行深入挖掘，优化基础数据库，如IP、设备、用户的黑白名单库。
事物都具有两面性，所以肯定有利有弊。有利的一面是业务风控作为企业安全的一环可以降低企业的经营风险，提升业务的推广效果，汇集真正的前端用户提升业务量。而弊端主要是 在深入业务的过程中需要投入大量的人力、物力，对企业的经营成本有所影响。另外，如果风控系统策略设置严格，就会影响用户体验，造成业务增长乏力。最后，通过策略的方式进行防护无法避免误报、漏报的情况发生。
冯博：（长期看，业务风控将会如何发展？）
业务安全目前主要由两类人员组成，一类是技术领域出身，另一类是运营风控领域出身。技术领域更多的是通过技术解决方案来解决实际的业务问题，在业务安全中技术领域更偏向基础安全。
基础安全和业务安全有个比喻。比如道路的技术安全主要是通过技术手段对道路的建设提出安全方案，保证道路的使用安全，通过技术手段解决道路、桥梁可能遭受的破坏，并对遭受的破损进行维护，更注重技术对抗。
业务安全则是对道路的合理管控，通过对道路用途的深入理解，对道路上的引导标志、红绿灯、天桥、高架桥进行合理的设计，其目的是为了减少交通的冲突点和交通事故，保证整个交通正常有序、安全的运行，更注重成本对抗。
技术领域的人才主要是通过学习业务，最终偏向通过技术能力解决黑产等问题，而运营风控领域的人才主要是直接深入业务本身，通过对业务的理解，找出业务的漏洞，并结合自身的经验，快速制定出应对方案，并且推动落地。从职业角度来看，两类人员属于互融互通的关系。
长期来看业务风控领域还有很长的路要走。随着业务场景不断变化，风险也在不断变化，业务风控人员依旧非常稀缺，技术瓶颈也有很多。因此对业务风控从业人员来说，未来还有很多的挑战。
我再说下业务安全的发展阶段。对企业来说，早期只有少量的数据维度，场景覆盖比较单一，容易出现高覆盖、低准确的结果，维护的难度比较大。在这个阶段，业务风控的运营成本非常大。第二个阶段引入了更丰富的数据，并建立黑白名单库，此时数据更加丰富，算法的选择也会更多，样本量也有所增加，就可以去开发一些比较精准的模型。最后一个阶段，场景覆盖比较全面，业务从注册、登录到各个活动、营销的场景都很完整，连贯性强，自然具备开发高覆盖、高准确的模型基础，因此可以建立标准化的评分卡和机器学习模型，通过决策流的方式自动配置规则、模型。
imlolo：（业务安全未来有没有新思路、新方法、新技术？）
首先是统一的安全架构。随着企业不断推进信息化，业务和数据逐步中台化，随着业务安全将变得越来越重要，面对的挑战也来越复杂，业务风控中台积极整合内外资源是未来趋势。
其次是业务安全上的投入将会越来越多。业务安全的重要性体现在体系化的建设，它的核心是业务驱动，贴合业务输出的风险场景，并针对这些风险场景建设风控体系，可以说是千人千面的。因此，业务风控团队需要有足够多的经验，解决的问题足够多，无论是风险预判能力，对业务流程的风控治理能力，还是风控技术的创新能力等，可以预见到业务安全的投入将会越来越多。
在未来，风控也将会跟随政策、跟随业务越来越精细化，业务风控部门任重而道远，除了持续加强自身建设外，选择一个乃多个外部安全合作伙伴，实现”业务安全经验融合的双保险机制“将会是个选择。网易安全风控的工具也不是全部自建轮子，在反作弊这块我们有比较好的优势，拥有比较丰富的业务风控运营经验，依托运营经验产生的近亿级体量特征库、已经应对风险问题的技术能力，比如全链路分析进行数据图谱关联、专门研究人机差异的生物行为模型、还有适配业务定制需求的规则引擎等技术手段，目前已在上百个应用中得到实践，也欢迎大家采用我们的服务，目前是免费开放的。有任何合作建议和问题，可以随时联系我们，谢谢。
二、问答环节
1.纷：业务安全和业务风控是同回事吗？在企业内部之间的区别？
杨晓栋：业务安全和业务风控的关系就像是一个发现问题，另一个解决问题。业务安全主要定位业务场景、业务流程的风险，包括恶意刷单、优惠券无限使用等，而业务风控通过则是分析这些被定为的业务场景，并确定解决方案，形成相应的策略下发，最后通过这些策略发现拦截记录，核查其中的漏报和误报。这就是业务安全和业务风控的关系。
在企业内部，大型企业的业务安全和业务风控大多是分开的，一般的中小企业可能都是由业务部门或安全部门一肩挑。
2.Helios²⁰¹⁷：图片、音频、视频等形式的内容有哪些好的审核和过滤实践？
冯博：图片、音频、视频等形式的内容，目前很多厂商都有比较成型的模型和算法。在我们的场景中，每个孩子上课的设备不太一样，摄像头的像素也不一样，所以准确率相对差别大一些。这时我们主要通过系统进行筛选，比如黄色、政治的内容会将准确率指标调低一些，然后再转到人工审核，主要是防止出现漏掉的情况。
3.鹏:网易易盾的反作弊和其他同类产品有什么独特优势？
imlolo：主要还是依托于我们服务网易产品时深入业务各个环节所积累的经验吧。其次依托大厂公司的技术优势、资源优势。在深入解决某些问题的时候会交付更快。当然，我们对每一家安全厂商都是非常尊重的。希望未来也能加强业内交流，共同建设风控能力。
4 主题曲（身行）:嘉宾们的公司是如何评估反作弊工作的价值的？和其他部门协同时有什么经验？
Imlolo：我认为反作弊其实是一种检测手段。它更擅长对抗黑灰产工具，识别非法请求。但是我们不可能指望一种检测手段就解决所有问题。所以在全链路的风控方案中，根据各个业务节点所产生的风险有针对性的选择治理方案是比较合适的做法，而这其中，需要业务部门尽可能的提供业务数据，使得风险特征更加清晰，从而形成比较全面的风控方案。像今天介绍的类似案例还有很多，比如聊天室抢红包、充值风险、直播场景用户侧风险和主播侧风险产生的水军、返点、套现等等。总之玩法取决于业务，所以业务数据是必不可少的。
杨晓栋：游戏企业对于反作弊工作主要集中在外挂。比如对于一个射击类游戏来说，我跑的速度是1m/s,如果使用作弊工具就能跑10m/s，这对其他玩家就不公平，也会破坏游戏整体的生态。 所以反作弊工作可以有助于整个游戏内部的生态平衡，不破坏原有流程的正常运转。
协同方面安全部会和业务部、知识产权部、法务部，甚至是打击外挂的部门进行合作，由安全部定为外挂问题，并且跟业务部确认问题存在，再跟知识产权部、法务部提交作弊工具可能造成的影响，最后打击外挂的同事会和当地的公安一起对外挂工具进行打击。
5.木华：在内容安全方面，人工审核和机器审核怎么做协同，才能最大限度降低风险？
冯博：在教育这个行业，样本采集的时候我们会有一些老师去看，提取一些不太正常的样本，然后再去优化现有的算法或模型，并且持续不断的积累样本量。主要是因为教育行业很多样本都是小孩，他的面部模型可能不像大人那样标准。机器审核完后会过滤至人工做进一步筛选，形成从人的判断增加样本，再进行机器优化，再转到人工审核，然后前端监课的人员会逐步减少。
6.Choi:如何开展业务风控，大概从哪几方面入手比较容易落地？谢谢！
imlolo：如果风控团队还处于初创期，那么首先在业务下游节点做点状式的布控。举例来说，如果你的业务本身就会涉及内容风险，你需要先在这个点上埋点，做保障业务生命线的事情。随着你的能力上升，就可以考虑在用户使用路径的各个节点增加布控，这就需要相应的团队，如专门研究黑灰产的人员，因为我们要了解黑灰产是如何攻击的，也需要根据他们的攻击手段做对应的解决方案，比如对工具的识别，对环境的检测。另外还需要业务风控的运营人员去跟业务部门去打交道，因为有一些活动的规则可能存在漏洞。业务部门和风控部门的关系应该是要相互赋能，我们也是希望风控能给业务带来增长，所以还是业务导向。
7.郭翊麟：您好，对于刚从事风控的技术人员，在数据量少且业务经验不足的情况下，请问有什么建议？
冯博：我认为最开始要了解整个公司的业务，覆盖的场景，以及最初的场景中有哪些数据，如果数据比较少可以先了解注册模块，你可能只有IP信息，没有设备信息，这时你就可以把这些信息记录下来。
另外就是在做的过程中多了解黑产会用到技术，在看数据过程中对数据进行筛选排序，其实在垃圾注册这一部分就可以看出很多问题。
如果准确的数据比较少的话可以看其他的信息，比如ID注册的时间、频率等，或者你可以连续观察几天在某一个时段或夜间等软维度的数据变化。这其实是在磨练你对数据的感知能力，让你更准确的识别数据的变化，以及对业务场景的了解。
8.Charles：基础安全防御和业务安全防御之间有没有什么关联，两者是否可以完全独立呢？
杨晓栋：我个人认为基础安全防御和业务安全防御之间存在交集。比如说WAF以前是独立于应用安全的范畴，但WAF跟业务风控的相似之处是基于策略，对于输入、输出的检测可以把WAF并在统一的业务风控系统的策略下发中。再比如威胁情报可以让安全防御变得更加精准，如果业务安全和威胁情报进行联动，可以让业务安全的黑白名单库也变得更加精准，对于业务安全是一个很好的补充。
至于两者是否可以完全独立，在某些方面比如说系统安全、办公安全等是可以独立的，但是很多时候它们是可以相互关联在一起
9.William_Winner：想了解一下业务风控的技术实现，误报怎么解决，会不会影响业务？
imlolo：首先误报的问题肯定存在，就看我们如何取舍，让准确率达到一个合适的水位。其实我们不应该只关注误报这一个点，很多时候还需要建立一种机制让它回归正确的水位，所以我建议在全链路上通过上下游的数据做一个交叉的验证。
比如在注册环节发现这个账号可能异常，但是他没有在平台或者业务的下游场景产生一个具体的动作，这个时候我们需要标记它有问题，在下游场景中也可以对标记的账号进行追踪。
比如在UGC场景中发了一个什么样的内容，账号的综合使用行为是什么样的，是一个正常的用户还是存在一些明显异于正常人的行为，在这种情况下就可以通过交叉验证对上游的数据做补充，并且不断调试策略或模型，使它达到正常的水位。
至于影响业务这块还是要有一个度。我们一般在新技术上线之前肯定要先经过测试数据的验证，首先解决覆盖的问题，即这次更新迭代之后还要保证之前的能力没有问题，再去解决一些新的问题。所以我们要多和业务部门进行沟通，让他们感知到业务风控很大一部分是为了提升用户质量。
10.木华：疫情当下，社交平台的内容量激增，原来的人工审核团队无法应对如此大量的扩增情况，如何应对？
杨晓栋：疫情之下互联网平台的内容会更加集中，所以人工审核的工作量会非常大。我们这块业务一般分几步来完成。
第一，人工审核，将文字和图片全部都过一般，删除比较明显的内容。第二，接入第三方审核平台，比如网易的内容审核平台，可以对一些审核进行自动化操作，提升了审核的效率。 第三，参加友商成立的联盟，我们就成立了互联网游戏内容监控联盟，这样可以多方位、多资源进行内容审核。
11.峰子：业务安全的风控体系或者说业务安全的管理体系该是什么样的？
imlolo：我个人建议还是根据业务的流程来进行。如果你有一个新业务上线，那么业务的玩法是怎么样的，用户的使用路径是怎么样的，活动的规则有没有漏洞等，先从最基础地方进行风险评估，然后再针对各个节点做风控的埋点，然后在数据的各个环节做风控的治理，上线之后再增加一个策略回验的机制。
当有用户申诉时，我们的解决办法以及在策略的提升、准确、迭代方面也要建立一套完整的流程。至于在人员这一层可能会比较复杂，因为管理涉及各个部门，风控可能需要哪些职能部门就是一个更大的话题。
12.lion：想问一下各位嘉宾 我们可以知道全部用户数量，也可以知道拦截恶意用户数量，但是却不知道一共又多少恶意用户，在这种情况下，怎么来衡量拦截率呢 ？
imlolo：这其实是一个召回的问题，是一个兜底策略的问题，因为在策略上我们设置有大坝的策略，还有一些基建的策略，所以我认为可以设置兜底策略。比如内容安全就可以用更宽泛的特征去做兜底。业务安全也是同样的道理，我们可以通过积累一些用户画像等数据，试着拉低一些阈值，去抓住更多的用户。如果非要尝试很精确的数据，像内容安全只能全部审核一遍，成本会非常高。
13. 我们公司怀疑有羊毛党刷单，但如何精准定位，不误伤正常用户？网易有什么经验吗？
Imlolo：首先我们需要承认的是，风控是帮助业务降低风险，提升安全性，凡事都有两面性，是没有办法做到100%准确的。但是我们需要理解业务部门的保护用户的心情，常规的做法是增加线上策略查验环节，会在注册、登录、业务场景各个节点进行埋点，上游节点一般对账号进行标记，流入到场景中作为辅助条件判断；其次增加一些二次验证，尤其是对于无法得出准确结论的，例如增加验证码等二次确认方式；第三对于风控部门来说，不断通过上下游数据的交叉验证来迭代策略的准确率是持之以恒的工作。
三、结语
非常感谢imlolo、杨晓栋、冯博、的精彩分享，本次直播的讨论群可谓热闹非凡，具体的、高质量的问题一个接一个。由于时间关系没有办法将所有的问题都放出来，如果大家意犹未尽的话可以在微信群里继续和嘉宾互动。
在本次直播中，信息安全新媒体安在将为以上11为提问观众免费提供诸子云知识星球的入场券一份，另外12号提问者lion将获赠价值1000元的《2020中国网络安全产品用户调查报告》一册，恭喜恭喜。
再次声明，本期文章所有内容皆可在千聊“安在讲堂”直播间回看，公益讲座，全部免费。
最后，向仍然奋战在疫情一线的医护、军队、志愿者等勇士们致敬！
相关阅读：