网易易盾荣获2016年互联网最具信赖产品奖

直播平台的竞争,归根到底是优质内容的竞争,而保证健康、安全的内容则是保障平台的生命底线。日前,首届“移动视频生态发展论坛”在上海普陀举行,斗鱼、战旗、YY、爱奇艺、熊猫TV等国内知名直播平台共聚一堂,共同探讨了直播平台在内容时代的生存法则和行业新趋势。

网易易盾CTO朱浩齐受邀参加此次论坛,在聊到直播行业的崛起和乱象时,作为一位在内容安全领域有着近十年经验的资深技术专家,朱浩齐对直播存在的不健康现象有着自己的看法,并分享了人工智能技术在直播内容审核方面的应用。

据朱浩齐介绍,自2008年进入网易后,一直担任信息安全的工作,同黑客、黑产、灰产、互联网异物的“斗争”中积累了丰富的经验。在他看来,要解决互联网内容安全以及直播的绿色化,或可以借鉴《孙子兵法》中的思想。

网信办公布的数据显示,截止到2016年10月,已经受理民间举报2388万件,其中淫秽色情、诈骗信息等举报量达到1479.4万件,占比达到61.9%。与此同时,《中华人民共和国网络安全法》和《互联网信息服务管理办法》等都对网络安全给出了指导性的意见。这可以追溯到《孙子兵法》中的始计篇,在法律法规上已经把网络内容安全上升到了战略层次。

朱浩齐介绍说,网络垃圾内容的制造者并不是单打独斗,而是形成了完整的灰色产业链。一方面拥有完整的技术研发团队,所开发的平台可以自动形成相关内容,并规避传统的关键词检测,并且研发了一些专用的电子设备;另一方面,代IP、包月、包年等等,垃圾信息的上游产业链已经非常完善,垃圾短信、UGC评论、骚扰电话等等,几乎渗透到了互联网的每一个角落。

这就意味着两个问题,一是互联网内容反垃圾的技术手段要与时俱进,二则要投入足够的资金和团队做好“斗争”的准备。


从1997年以邮箱起家到现在的人工智能阶段,网易在内容安全方面积累了一套完善的解决方案,涵盖了从业务要应用层的各个环节。朱浩齐介绍了网易将深度学习技术在内容方面的两大应用:

其一,提高机器识别的准确率。传统基于算法的肤色、肢体、人脸等识别方式,大概能做到70%到80%的准确率,并不能区分内容是否违规。网易的技术团队通过深度学习技术,将图片拆分成像素再做组合,然后模仿人脑的思维方式把分层后的像素组合成真正的物体模型。得益于此,机器识别摆脱了靠模型和样本库识别的阶段,识别准确率可以达到99.8%。

其二,自主研发的反作弊技术。在电商、金融等很多互联网领域,用户行为数据识别分析显得尤为重要,如何甄别真实用户还是“刷红包”的机器人等等。网易部门构建了一套完善的反作弊机制,在安全层面也完成了诸多创举,比如更智能的验证码,在保证用户体验的同时又保证了良好的效果。


朱浩齐介绍说,对于很多企业来说,在信息安全领域投入过高并不理性,如何在低成本的情况下实现安全保障,成为互联网行业的一大需求。为此,行业内出现了一些第三方解决方案,网易也推出了网易易盾这一反垃圾云服务。

以直播行业最为常见的广告和鉴黄功能为例,网易易盾推出了专门做直播的解决方案,用户只需要把直播房间的URL提交,就可以自动进行检测。通过对直播画面的视频流实时检测+图片截帧检测进行判断分析,并将分析结果递交给用户处理。同时,对昵称、头像、弹幕等直播场景中的广告、色情、谩骂、灌水等同样可以实现智能识别处理。

同时朱浩齐表示,网易易盾还拥有成熟的大数据分析平台和庞大的特征资料库,以云服务的形式帮助客户减少在内容安全层面的人工成本,以“人工智能+人工审核”的形式实现对垃圾信息的反击。

 

据了解,网易易盾在移动视频生态论坛上荣获“2016年互联网最具信赖产品奖”,目前客户涵盖直播、医疗、财经、社交产品等众多行业。在今年早些时候网易牵头成立了国内首个“互联网内容安全联盟,联合行业组织、互联网内容平台或提供商、及业界合作伙伴,为互联网企业提供方便、低成本的反垃圾解决方案,提升产品内容质量和用户体验、降低产品运营风险和成本,通过人工智能技术引领互联网内容产业安全、绿色、健康新风尚。