国家互联网信息办公室发布的《网络信息内容生态治理规定》,自2020年3月1日起施行。以黄、赌、毒、暴及反动言论为代表的网络内容乱象成为严厉打击的对象,而其中不少规定对互联网平台企业影响深远。
1月14日,由网易易盾发起的“数字内容风控”闭门研讨会第三站于广州圆满落幕。闭门研讨会邀请金融、游戏、社交、文娱等客户成员针对内容风控方法与经验作进一步交流。会上,关于UGC内容如何规避运营风险成为大家最关心的问题,也是互联网产品与运营人员的核心关注点。
闭门会旨在促进行业交流,更好地了解客户群体不断变化的需求,从监管政策分析、风控产品进阶与未来风控趋势、反作弊打击等角度出发,易盾向客户输送了深度风控知识,回顾与企业之间的“数字内容风控”实践合作经验。
在随后举行的颁奖典礼上,易盾颁发了年度社会责任奖、年度精诚合作奖、年度人文精神奖 、年度最具人气奖、年度最具人气奖、年度商业价值奖等多个奖项,以表达五年以来对客户的感谢。部分获奖客户代表上台发言,分享了他们与易盾的故事。
围绕热点议题,促进行业交流
今天下午,会议的主题与数字内容行业相关。一个讨论的焦点是,各行各业正在纳入共享内容,让其变得更具人气 —— 文本、图像、视频、音频,生产的频率越来越高,制作速度也越来越快,以前所未有的速度与范围传播。数字经济的快速崛起对经济社会产生了显著影响。
平台在开始内容推荐分发前,首先要以保证内容导向和内容安全的前提。不良违规内容从平台诞生之初就开始,犹如病毒与细胞的斗争一般悄然升级。在进行内容风控之前,业务方需要从法律法规、产品特性出发,弄清楚:什么样的内容是不良的?什么样的内容是低质的?什么样的内容是违法的?什么样的机制是高效的?随时根据最新法规、对抗动态来调整策略方法,必须兼顾信息流动、安全、效率、准确性与其他竞争价值。
网易易盾总经理朱浩齐:看待“数字内容风控政策”收紧趋势要有新视角
网易易盾CEO朱浩齐在会上分析了数字内容合规趋严的原因。在全新的局面下,不仅是内容合规受挑战,而是整个数字产业都有规范化。不过,当前数字产业仍旧是机遇大于挑战。
他指出,网易易盾在做好现有重点业务的同时,一直都在观察市场的新机会与新需求,努力在内容安全、业务安全、移动安全方向获得突破,坚持大方向、注重小场景、解决具体问题,为数字化转型升级成功打下网络安全合规基础。以下为演讲节选:
任何技术都是一把双刃剑,核能创造了能源,也带来原子弹。互联网能带来时空折叠,效率提升,也会引发诈骗、个人隐私泄露、儿童色情、涉黄涉暴信息传播、信息茧房、大数据杀熟等负面效应。
疫情断断续续持续了2年,大家整体的感受是“难”,从实体制造业、到线下服务业,互联网数字化产业也不例外。“我想在座各位同我一样,感受到贯穿整个互联网行业的‘穿透式’监管与合规,也感受到整体不景气带来的冲击。”他表示,就数字内容合规而言,仅2021年就出台了数十部规范性法律法规,更有甚者,如K12线上教育,在一夕之间巨变。
其实,我们要换个视角看待如此种种的烦恼。著名金融学者香帅的财富报告或许能够给我们一些启发。报告认为,中国现在已经进入了一个“熟经济”的时代。“熟经济”期,经济不再像年轻的时候一样可以猛长身体,随便折腾了。我们“上有老下有小”,我们讲究的是承担责任,纯讲效率的时代过去了。未来一段时间,公平正义与共同富裕会是国家经济政策的主旋律之一。因此,无论是个人还是企业,都应该适应改革,才能活得更好。
国务院日前印发了《“十四五”数字经济发展规划》也给了我们信心,给数字经济发展奠定了基调。《规划》预计数字经济增加值占GDP比重从7.8%涨到10%,肯定了信息技术服务行业规模要从2020年的8.16万亿元增长到2025年的14万亿元,增长超70%。
就像前段时间,国家推出游戏未成年人保护新规,限制未成年人的游戏参与度。网络上立马出现了很多对政策的"误读",随后网易、腾讯的股价都大跌。后续,政协委员及时出来辟谣对政策相关内容做了解读,国家还是鼓励游戏产业健康发展的,保护未成年人并非就要打击压制某些行业的发展。这并不是此消彼长的矛盾关系,国家对新兴行业的态度一向明确,支持创新,但也会第一时间出台相应的监管政策,打击"伪创新",以防止对真正的创新造成影响。
既然十四五规划都已经制定好了,那么合法合规、积极健康的互联网应用必然少不了得到蓬勃发展的机会。不论如何,至少我们会坚定不移地在这个方向上继续努力,不断加大投入,争取给大家提供一个可信赖的数字风控服务,助力客户业务更快更好发展。
网易智慧企业VP王为:做好2B技术服务的窗口
网易可以说是第一批互联网公司,这么多年下来他就一个风格:做产品做的不是很多,但是每个做的都很好。
我们这个团队承载了网易集团所有2B的商业化工作,给企业客户提供服务。网易的其他产品,像大家所熟知的网易游戏,网易新闻到网易云音乐,都是C端的产品。只有我们是2B端,是网易为大家提供2B服务的一个窗口,这就是我们团队的使命。
网易还有一个特点是所有的技术能力先给自己的产品使用,进行打磨,质量达标了再走向市场。在五年前,易盾的数字风控服务能力表现不错,才沉淀下来成为独立化的产品,就是这样一个过程。
这段时间国家对互联网这种监管趋严,我相信在未来一段时间也不会松下来。只要我们的业务跟互联网相关,都得跟随国家的指导政策,去了解国家的方向,知道国家的要求,且按照国家的要求去执行,否则可能会影响我们的业务的发展。
最近,我在阅读中遇到一句话,我很认可。“在当今的社会下寻求发展,真的不是肌肉最强大,也不是最聪明的,而一定是最适合的。”什么叫最适合的?
在我看来,就是完全符合当下社会、国家的发展需求,这就叫适合。回到我们的使命,我们也希望用技术能力,让我们的用户更适合当今社会的要求,国家的要求,给业务保驾护航。其实,我们不是网络安全,我们是业务安全,希望各位的业务在互联网里面是合规的,是符合国家的监管要求的,这个事情现在来看非常重要。
一开始网易内部是技术输送的重点,而如今这部分占比没有那么大。当前,随着市场的信任,为网易内部客户的占比已经不到20%了,剩下超80%的比例都是外部客户,真正从“自给自足”走向“商业化”。
在政策监管之下,我也知道很多合作伙伴在尝试出海业务,今年也是我们聚焦出海业务的重要一年,为什么不是以前?
一方面,因为我们对技术能力的成熟度有信心,另一个方面,在客户群中出现不少出海的身影。为了与客户齐头并进,我们也做足了准备,比如说服务器节点、海外审查法规跟进、跨境数据合规等,让不少客户安心出海。这是今年的决心,也需要跟各位在出海业务各个场景持续磨合。
这可能是B端服务企业的一个特点。一直以来,我们非常愿意去听各位在业务上的思路,非常愿意跟大家去合作配合。另外,我们此前和以后有什么做的不好的地方,也请大家随时反馈,我们会不断改进。
网易易盾舆情专家王政宜 :坚持正能量、管得住、用得好的风控策略
互联网已经成为意识形态斗争的主阵地、主战场、最前沿,网络意识形态安全直接关系国家政治安全。当今世界正经历百年未有之大变局,国际形势复杂多变,国际格局面临深刻调整,经济社会发展不确定性因素增多,新一轮科技革命和产业变革方兴未艾,网络新技术新应用快速迭代,配合政府部门切实维护好网络安全和意识形态安全更是互联网企业作为网络主体需要具备的责任和义务。
坚持正能量是总要求。只有正面宣传强劲有力,网上才能正能量充沛,才能让党的声音引领网络空间,也才能有效挤压负面信息的渠道和空间。要积极响应监管部门号召,弘扬社会主义核心价值观,宣传优秀道德文化和时代精神,充分展现中华民族昂扬向上精神风貌。要坚持高举旗帜,切实以习近平新时代中国特色社会主义思想统领网络宣传舆论工作全局,充分发挥好互联网传播优势,不断提升正能量在平台上的网络宣传效果。
坚持管得住是硬道理。建立网络综合治理体系,是党的十九大明确提出的一项重要任务,是管网治网的根本之策。要提高管网治网的系统性和有效性,形成一套完备科学并行之有效的安全治理架构,不给任何有害信息传播可趁之机。要建立健全平台网上风险防范机制,及时批判网上错误思潮,坚决清理网上谣言、暴恐音视频等有害信息,全面提升技术治网能力和水平。要落实好互联网企业主体责任,严格遵守相关法律法规,营造风清气正网络空间。
坚持用得好是真本事。要旗帜鲜明坚持正确的政治方向、舆论导向、价值取向,新技术新应用要用得好,也要能防范住新风险,要让平台成为新技术新形态的开拓者、网络文明空间的建设者、网络有害信息内容的粉碎者。
网易易盾业务安全专家陆程华:网络反欺诈治理从0到1
反作弊工作者的常态可以归纳为,潜伏在各类电报群、黑灰产群、羊毛群,热衷于将欺诈与作弊者挑翻马下,时刻关注新危害的动态。陆程华拥有9年反作弊经验,他在分析中介绍:
网络欺诈治理面临新形势和新挑战,一是已经形成专业化的产业链,分工明确,由成熟的黑灰产业链组成利益结合体,包含不限于卡商、号商、作弊工具开发,骗术剧本非常成熟;二是技术攻防激烈,诈骗技术、设备升级速度加快,尤其是人工智能、机器学习等新技术应用于欺诈场景,利用AI技术伪造合成声音、视频实施诈骗行为;三是随机性强,广撒网、随机式、跨平台的诈骗,难以监控、取证,诈骗套路持续翻新,防不胜防。
网易易盾通过对欺诈链路分析,结合目标画像、号卡设备资源分布、话术剧本等研究,输出多维一体化解决方案。深入多业务场景全流程智能分析 ,多维度的行为关联构建动态业务模型,以欺诈引流基础方案为根基、以用户行为为支点,根据不同场景,灵活定制智能模型,1对1解决平台遇到的诈骗问题。
依业务反馈数据,接入网易易盾反诈骗解决方案后,风险账号处理数提升6倍,隐晦变体内容识别准确率达99%以上,投诉来电量、举报消息量下降86%,有效扼制平台诈骗团伙的活跃程度,不仅有效恢复平台用户生态环境,同时贯彻执行了国家网信办清朗行动的相关指示。
网易易盾产品总监饶晓艳 守护信息质量,我们的做法
网易易盾产品总监饶晓艳从过去多年从业经验中,提炼出多种内容合规常见的市场需求,分享了内容风控产品的创新之路。在不同政策、场景、行业下,审核机制有哪些差异?如何提升审核精准度和效率?
整体上来讲,做风控其实是一直在做持续对抗这一件事情。随着外部政策的变化,应对新挑战的要求,去年我们在一些场景上做了相应的应对升级,对一些产品和解决方案进行了优化,下面举2个例子。
第一个场景是出海。在座客户也有出海的产品或计划。我们碰到两类典型的需求是,怎么样提前考虑内容风险与数据怎么样做到合规。内容出海要符合部分国家与地区法规要求,比如以谷歌为代表的各大应用市场平台有明确的规定,对于未成年也好,对于涉黄、涉暴、涉政也好。另一个是数据合规,大家一定熟悉欧盟地区的《通用数据保护条例》(GDPR),最具有代表性。近年来,各个国家相继开始重视数据与隐私问题,出台了相应的数据安全保护条例,或是个人数据安全保护法。为此,我们成立了一个专门的策略团队,去研究每个地区、每个国家所具备的法律法规,这些要求往往是出海企业的盲区。
第二个场景是历史数据清洗。每一位风控同学都会碰到这个任务,业务要对历史的数据做全面、清晰的再次审核。这个时候一般时间周期非常短,往往一周或一个月就得回顾全站的内容数据。这个就考验大家的应急能力。以易盾的工作节奏为例,第一要调度相当多的GPU的机器资源来支援,第二要紧急调度人工审核。我们做到过三天之内增加了百位审核人员,助力客户去做历史数据清洗之后的人工审核,确保内容风险不再次发生,第三要跟进最新策略,确保每个月能够回扫一遍,保证历史存量数据和新增数据符合最新的监管标准,这样就能进一步降低历史数据中的风险。
上述多行业的通用小场景都是来自客户的真实需求。2022年,易盾会持续做好整个产品技术上的打磨,在娱乐、社交、游戏等各行业的各类典型场景上继续深挖,争取能够贴身去解决相应问题。除了行业创新之外,我们仍会不断提升整体智能风控的水平,也会尽可能做到安全和用户体验的平衡,尽最大努力成为客户的一个后盾。
2016年9月20号,网易易盾正式对外发布,开启商业化道路,过去的五年,是一段1825天,43800小时的时光。从0到1是灵感的迸发,是创新与创意的呈现;从1到5是继往开来,是推陈出新的传承发展;从5到无穷是源远流长,是远见稳进的延续。5年磨锋砺剑,我们携手创新者乘风破浪,5年砥砺前行,我们陪伴远见者茁壮成长。感谢每一位客户的陪伴和支持。
活动现场