中文站

首个互联网内容安全联盟来袭,网易成引领者

“截止到2016年6月,中国网民规模业已达到7.10亿,同比增长3.1%。51.7%的互联网普及率更是高于全球和亚洲的平均水平。”

这是不久前CNNIC发布的第38次《中国互联网络发展状况统计报告》给出的数据,在这些数据背后还包括国内近500万个互联网站点及数百万的移动APP。诚然,和10年前相比,中国互联网的规模已经空前庞大,即时通讯、搜索引擎、网络新闻、社交应用、网络购物、互联网金融等越来越多应用的出现早已改变了人们的生活。但在人们享受互联网红利的同时,信息垃圾和内容安全问题已然成为行业的顽疾,甚至危及不少产品的运营和发展。

近期,网易公司在国内率先发起了“互联网内容安全联盟”,联合相关行业组织、互联网内容平台、业界合作伙伴等,共同倡导通过技术手段解决互联网垃圾信息,建立良好的互联网内容生态。作为业界的实践,网易将于8月24日举办的“互联网内容安全联盟发布会”引起了不少关注。


网络安全问题频现,互联网内容创业的隐忧

据悉,从2015年下半年到今年上半年的一年间,我国网民因垃圾信息、诈骗信息、个人信息泄露等遭受的经济损失高达915亿元。另据中国互联网违法和不良信息举报中心数据公布的数据显示,其中淫秽色情类有害信息占据了67.2%、政治类有害信息9.4%、侵犯网民权益类有害信息占比8%。且在诸多互联网应用中,具有自发性和不可控特点的UGC类产品首当其冲。

一方面,从国内到国外UGC领域逐渐成为创业者追逐的蓝海,并相继诞生了instagram(图片社区)、vine(视频社区)、唱吧(声音社区)、啪啪(有声图片社区)、frontback(图片社区)、 twitter(文字社区)等产品;另一方面基于用户的内容创造有很大的不可控性,很容易成为垃圾信息爆发的重灾区,缺少内容运营经验且在内容过滤方面能力不足的创业者会直接沦为受害者,典型的就是因涉黄被Apple Store和Google Play相继强制下架的“17”APP。由此导致的结果是,当前互联网上近75%的网站或应用属于UGC分类,UGC网站和应用的平均流量相比非UGC类高出60%以上,对内容安全管理也提出了新的挑战。

原因似乎不难理解。处在互联网飞速发展的时代,很多创业产品迅速崛起,但是信息安全检测却跟不上业务前进的步伐。仅依靠人工进行信息审核过滤,人力成本巨大,且随着审核团队不断扩大,团队的人员管理也是管理者需要面对的问题。

人工智能在识别内容方面的应用是必然选择,但是从技术角度上看,自主进行人工智能反垃圾的研发并不容易。首先,要有专业的算法团队去支撑产出算法模型。其次,为了保证算法模型的高准确率、高召回率需要海量的样本及机器资源去学习和训练。再次,如何获得丰富的样本数据,迅速的进行样本分类打标,以供算法训练迭代也是痛点。

当下,互联网在内容安全方面的隐忧已经成了很多产品发展的瓶颈。

网易发起成立首个互联网内容安全联盟,成业界引领者

在这个背景下,网易公司率先在国内发起了首个"互联网内容安全联盟",希望联合行业组织、互联网内容平台或提供商、以及业界合作伙伴,为互联网企业提供方便、低成本的反垃圾解决方案,让反垃圾云服务帮助互联网产品免于垃圾有害内容困扰,提升产品内容质量和用户体验、降低运营风险和成本。

不过,为何牵头的是一直以低调著称的网易?

事实上,在UGC领域,网易或许是国内最有话语权的互联网巨头之一。回看网易的产品之路,从最初的网易新闻到博客、lofter再到网易云课堂、网易云音乐等等,无不延续了网易的“跟帖文化”。除了在打磨产品上体现的工匠精神,网易长达19年的反垃圾经验功不可没。据介绍,由最初借助关键词、黑白名单、过滤器的反垃圾技术开始,网易的反垃圾团队随后引入了内容特征识别、贝叶斯过滤、相似度匹配规则系统等,以解决图片识别的问题。而在人工智能流行起来之后,网易在反垃圾方面应用了大数据分析、人机识别、人工智能等技术,进而实现了对语音、视频等内容的识别。

今年年初,网易反垃圾团队结合自身的云计算资源推出了网易易盾反垃圾云服务,融合了网易19年在UGC产品及网易邮箱的反垃圾和信息安全专业技术积累,为国内互联网企业打造专业的第三方智能反垃圾云服务。目前网易易盾已经面向企业用户提供文本过滤、图片识别、视频检测等服务,企业用户仅需通过简单的接口调用,就能基于网易大数据和云计算服务,在服务端及移动端实现广告、淫秽、暴恐、谣言、违禁品等有害信息的实时过滤。此外还有1对1的安全专家服务、运营团队7x24小时的响应保障来降低运营风险,提升产品用户体验。

据了解,In、足记、浙江之图科技、杭州领娱科技、星瞳直播等知名UGC产品及新锐互联网企业都已受到网易的邀请,浙江互联网促进协会、上海市信息安全行业协会、跨星(杭州创业大街)等成为互联网内容安全联盟的重要成员。而“互联网内容安全联盟”正式成立的发布会将于8月24日在杭州举行,目前该联盟仍在接受报名,参与的相关企业将免费享受内容安全产品、技术及解决方案服务,并获得内容安全联盟成员资格。

作为国内首个互联网内容安全联盟,网易及网易易盾反垃圾云服务意在同合作伙伴一起"携手共建绿色、安全的互联网环境"。据悉,届时将有30余家媒体进行现场报道,联盟的成立对于整个互联网行业在信息安全方面有着标志性的意义。