网易易盾CTO朱浩齐:内容安全已成为互联网风控命门

8月16日下午,安在新媒体“诸子云——走进网易”系列专题活动在网易一期园区咖啡吧举行,在本次活动中网易易盾CTO朱浩齐分享了《内容安全已成为互联网风控命门》的主题演讲。

诸子云,是由安在新媒体和一众业界大咖共同发起,以中国境内各行业各领域企业的网络安全从业骨干为主体的社群组织,是为奋战在用户单位(甲方)网络安全一线的实践者提供的交流互助平台,目前在北京、上海、深圳、武汉、杭州都设有落地组织,并以个人专访、实践案例、专家言论等媒体分享、线下沙龙活动、互助共建项目等作为社群交流形式。

自2018年成立至今,诸子云以走进名企的方式,在北京、上海、杭州等地举办一系列线下会员交流活动,这次,诸子云以“走进网易”为名,邀约杭州本地各行各业典型企业网络安全同仁,聚焦当前正值热点的业务安全、内容安全等话题,互通有无,交流畅叙。据悉,本次的诸子百家网络安全研讨沙龙是一次专家活动,所有参会人员都以定向邀约为准,并仅限受邀本人参加。


网易易盾CTO朱浩齐

开场,朱浩齐首先介绍了网易安全的发展阶段,从2003年的应急救火开始,安全体系初步建立,到2006年,便落实了安全管理体系建设、安全扫描系统、反入侵、源代码审计、内容安全审核系统等建设;到2011年,内容安全、业务安全、移动安全已经平台化,业务风控引擎得到了整合。2016年,网易安全推出了商用安全产品,启动对外品牌网易易盾。

朱浩齐说,网易安全十几年以来,一直持续打造业务风控中台,在业务模块、业务风控服务、账户认证验证、响应管理、识别分析、全域大数据、网络安全等层面,源源不断发力,取得了瞩目的成就。

紧接着,朱浩齐重点介绍了内容安全。他指出内容安全已成为互联网的风控命门,如果不重视内容安全或内容安全做不到位,那么对业务的影响将会很大,“我们已经看到,市面上有些企业因为内容安全受到监管部门的责令整改、罚款、内容停更、甚至应用无限期下架等处罚。”

朱浩齐举了内容安全的例子,分享色情、毒品、广告、地图与旗帜、暴恐、血腥、武器等领域典型的内容安全问题。他指出这些不良内容对互联网影响特别不好,我们应该响应国家的政策法规,决不能让互联网成为传播有害信息、造谣生事的平台。

如何解决上述内容安全问题呢?朱浩齐称,传统方式是人工审核。但人工审核成本很高,一人一天审核4万条信息,日均100万数据,光审核人力成本就要200万以上。对企业而言,概括起来说就是成本高、技术难、效果差。

那么网易易盾是如何破解内容安全这个难题?朱浩齐着重介绍了网易在内容风控上的经验与成果。以追求性价比和高效率为原则,结合机器与人工,不断落实新技术,在对抗中不断升级。通过图像识别技术、深度神经网络、详细数据分类等技术与手段,达到高准确识别率的效果,“其第三代的内容安全服务,智能识别精准率超过99.8%,每天检测信息上十亿条。”朱浩齐说到。

除了文本、图片之外,网易易盾还具有音频和视频过滤技术,能够对音频、直播、点播等内容进行检测分析,以鉴别是否存在违规违法内容。

朱浩齐还指出,如今我们的对手产业链成熟,他们占领热门,不分昼夜、对抗升级、分工协作、利益明确,并游走在法律边缘,是十分狡猾的对手,所以注定了内容安全战争是一场成本的较量,多维度与单纬度的PK。

  

所以网易易盾打造了全链路风控模型,通过事前预防、事中检测处置、事后分析反馈三大模块,提供完整、全方位的安全防护。

  
网易易盾获得的部分荣誉和资质

最后,朱浩齐也介绍了如何使用易盾。用户可以利用API接入,访问http://dun.163.com,一天即可完成。