专注“数字内容风控”,助力共建清朗网络空间

6月15日,一年一度的浙江省科技奖励大会如期而至,2020年度浙江省科学技术奖揭晓。其中,在杭州单位共获174项,包括市属单位所获38项,在杭州单位获奖占浙江全省总奖项接近60%。

一项项重大标志性的科技成果,再次展现了杭州作为“领头雁”的科技担当。为此,“创新杭州”推出“科技创新看杭州”系列报道,带你走进“高精尖”的获奖项目,感受杭州的科技创新氛围。本次推出第六篇。

随着互联网技术的发展,数字内容安全事件时有发生,各类涉政暴恐、低俗色情等有害的互联⽹信息危害国家安全和网民身心健康。

国家互联网信息办公室部署开展2021年“清朗”系列专项行动时指出,将从8个方面发力严格把关不良违规内容。而对于企业来说,内容安全是企业发展的生命线,一旦发布违规违法信息,就会随时面临被关停整改的风险。建立健全互联网平台内容审核机制,维护数字内容安全日渐成为多方关注的焦点。

6月15日下午,浙江省科学技术奖励大会在杭州隆重举行。网易(杭州)网络有限公司作为主持单位承担的“互联网内容风控技术、平台研发及产业化”项目获得浙江省科学技术进步奖一等奖。


该项目提出了一种分层分类柔性过滤的互联网内容风控体系架构,突破了多特征融合的有害内容高效精准识别、基于小样本学习的有害内容快速识别、多因素融合的内容风控综合决策等三大关键技术,旨在从数字内容风控角度帮助互联网产品健康发展,共建清朗网络空间。该项目的商业化产品——新一代数字内容风控领军者网易易盾,为互联网内容平台打造出一条高效、安全的“绿色审核通道”。

新一代数字内容风控领军者

网络中有害信息的出现,最早可以追溯到十多年前博客、论坛刚刚流行的时候,网民可以随意发表评论,其中不乏低俗、色情、暴力等有害信息。当时内容审核运用的还是传统的“三审制”,随着互联网产品愈发多样化,企业每天要发布几十万甚至上百万帖子,内容审核的任务量每日剧增,如何高效、安全地进行内容审核,成了互联网行业最紧迫的命题。


作为该项目的重要研发人员之一,网易智慧企业副总经理周森曾在接受媒体采访时表示:“互联网产业的繁荣代表里面有大量的经济利益,滋生出一批地下黑色产业,他们通过不正当的方式方法获利,导致产业面临内容安全相关等问题,他们是相伴相生的过程。打击地下黑产成为产业共识,这就需要我们这些第三方安全厂商、安全风控公司来帮助他们。”

2007年年中,网易研发了一款针对过滤网络社区性“有害垃圾”的产品——博客反垃圾系统,这也是网易易盾的早期雏形。这一系统重点针对文本信息进行分类、过滤。技术一经应用,大大节省了时间成本和人力物力成本,之后这项技术在网易新闻、网易邮箱、网易云音乐陆续使用。

2016年,全国进入4G时代,网络上的数字内容除了文字外,视频音频越来越多,数字内容审核需求越来越大。随着识别技术的不断更新和优化,网易将项目正式对外商业化,服务于更多互联网企业。

据资料显示,网易易盾目前主要有内容安全、业务安全、移动安全相关的三条产品线,其中,内容安全方面赋能金融、广电等行业头部客户,包含“多审制”“融媒体审核”“自定义打标”等多项核心功能,可为企业提供多行业垂直解决方案,助力企业轻松应对安全挑战,得以将精力聚焦业务创新。


客户logo墙(部分)

据统计,⽹易易盾识别互联网平台有害内容的整体技术处于国际先进水平,仅2020年全年就检测数据4116亿,识别有害信息425亿,新提炼有害信息特征12亿,反作弊累计检测量百亿次,反作弊累计沉淀黑灰产用户画像亿级,反作弊恶意行为识别准确率在99%以上。目前已累计服务上万家企事业单位。

周森表示,网易易盾服务的企业涉及各行各业:包括娱乐社交、金融、游戏、电商、教育、广电等,企业与其合作后效果显著,通过共同努力,互联网平台上的违法违规不良信息可以得到及时高效的筛查和有效控制,这是最直观的成果,让企事业单位可以将精力专注聚焦于自身主营业务的创新。

易盾提供多行业垂直解决方案

截至目前,网易易盾获授权发明专利31件,获中国专利优秀奖1项,登记软件著作权9项,发表学术论⽂37篇。近三年新增销售收11.38亿元,新增利润2.9亿元,获得了巨大的经济和社会效益,推动了互联网内容风控技术的创新及发展。

“铁三角”组合护航数字内容安全

值得一提的是,网易易盾首创了将运营团队纳入工作体系的模式,相较于同类型企业都是技术团队+审核团队,融入运营团队极大提升了整体的效率与效能。

“技术识别+运营统筹+精准人工审核”的“铁三角”组合无论从创新层面还是实际效果层面都为产业带来了改观,通过三个团队的密切合作,将落地过程中已存在的或潜在的问题解决掉,提升客户满意度。


实力过硬的技术团队

在业务不断精进的过程中,网易易盾的内容安全服务着眼于客户实际问题,通过打造更精细、更灵活、更先进的技术能力,尽心为客户创造真实业务价值。

周森坦言,项目实践的过程也是一个个攻坚克难的过程,比如与黑灰产“斗智斗勇”,就是一个漫长且艰难的过程。

与黑灰产对抗的初始阶段,周森团队发现,大量垃圾信息长期占据着各个APP和互联网平台热门区域,如代刷粉、办假证、网络兼职等,像牛皮癣一样难以清除,给用户带来极差的体验感,也给产品自身带来极大的安全风险。他们定向研发了垃圾广告模型、二维码检测模型、面向UGC场景的OCR模型等多种技术能力来识别各类垃圾数据,初见成效。很快,对方“变本加厉”,将广告素材进行形变、扭曲、涂抹等处理,增大了计算机的识别难度。周森团队通过多特征融合、可形变卷积、主动学习等新技术的应用,抗住了“进攻”。

对抗进入白热化阶段,对方开始通过扑克牌、计算器显示屏来传达手机号码等信息。

“一开始我们非常被动,但很快我们的研究便有了新方向。通过不同维度信息之间的相互验证精准捕捉黑产团伙,构建起立体化全方位的防守体系,最终成功提升拦截效果。”

周森表示,接下来网易易盾将继续向横向和纵向扩展。横向扩展,网易易盾将与其他产品如网易云信(一款做通信与视频技术服务的产品)做有机结合,以达到1+1大于2的效果;纵向扩展,将继续精进技术——人工智能识别技术,结合标签推荐、语义分析、情感分析等各种场景的分析识别做技术拓展。周森也透露,目前已有类似拓展业务开始落地,合作点很多。


 产品全生命周期

除此之外,网易易盾也结合自身优势积极践行社会责任,在疫情期间,发挥科技优势助力抗疫;持续推出了“清风”“清朗”等专项行动,致力于净化未成年人网络环境;联合头部厂商发起互联网内容安全联盟,旨在共建清朗网络空间;积极参与多项国家和行业标准的起草制定,如《网络与信息安全管理员国家职业技能标准》《互联网内容审核职业技能等级标准》等,推动行业标准体系完善,也一定程度上带动了就业。(来源:“创新杭州 ”微信公众号)