中文站

儿童邪典视频流窜,网易云易盾专家用代码守护网络环境

内容审核对互联网安全环境的构建尤为重要,而最近颇受关注的“儿童邪典”视频,把内容审核的重要性又推到了一个新的高度。好消息是,以网易云易盾为代表的内容安全团队,正在借助领先的内容安全技术,智能地捍卫互联网网络环境的纯净度。

据观察者网报道(http://www.guancha.cn/society/2018_01_22_444092.shtml),国内多家知名视频网站暗藏大量“儿童邪典”视频,此类视频以卡通片、儿童剧、木偶剧为包装,故意充斥大量含有血腥暴力、恐怖、虐待、色情等内容,传递错误认知,教唆诱导未成年人模仿,危害未成年人身心健康,不留意看,根本发现不了其危害。由于这些视频通过对少年儿童喜爱的艾莎公主、米奇老鼠、蜘蛛侠、小猪佩奇等卡通形象的二次加工,所以“儿童邪典”视频又被称为“艾莎门”。

除了视频之外,澎湃新闻指出(http://tech.sina.com.cn/roll/2018-01-23/doc-ifyqtycx2506131.shtml),市场份额颇高的几家游戏网站也卷入其中,含有相似主题、令人不适的内容。

由于人的一生最关键的一个阶段是儿童时期,这个时期启蒙和影响一个人的未来——包括思想、价值观、世界观等,所以家长和社会各界非常愤怒。全国“扫黄打非”办公室特地在微博中严厉表示,他们已经展开各种部署和清查;与此同时,北京也启动网络游戏专项整治活动(http://industry.caijing.com.cn/20180123/4398296.shtml),对未经内容审查备案的予以下线,对利用网络游戏从事违法犯罪活动的,移交公安机关追究刑事责任。

尽管相关网站开展了自查和清理,但首都师范大学政法学院教授李昕则表示(http://www.ctoutiao.com/466979.html),没有尽到监管职责的视频平台也应受到处罚。

在媒体关注以及政府专项行动下,内容审核的顽疾也逐渐走向台前——现在的互联网内容审核工作越来越难。比如,用户上传内容尺度难以把握、海量垃圾信息骚扰难清理、垃圾样本变化多端难过滤、人力审核成本不堪重负。尽管他们在当下也引入了机器审核,但由于视频平台和游戏平台在安全方面的经验积累较浅,机器审核的效果并不如意。

那是不是真的无法运用技术来解决这个难题?网易云易盾专家在接受采访时指出,这种影响儿童身心健康发展的视频和游戏内容非常可恶,基于网易20年专业的反垃圾经验,易盾早就能做到智能鉴黄、暴恐识别,并且成绩斐然。


易盾的视频反垃圾框架

“基于智能识别、分析技术及海量样本库、信用库,能够高效识别暴力、血腥和色情等危害儿童身心健康的内容。”这位业内资深的网易云易盾专家解读,成绩斐然和智能检测的背后是源自网易云计算、人工智能深度学习的落地应用,与积累了20年网易邮箱、社区产品反垃圾相得益彰的结果。


视频审核解决方案

据悉,为了不让有一条漏网之鱼毒害少年儿童,网易云易盾的反垃圾服务还有运营团队7x24小时的巡检,在智能的同时,也为打造互联网纯净内容生态做进一步保障。

值得指出的是,这项技术目前非常成熟,包括一直播、小咖秀、唯品会等公司都与网易云易盾在反垃圾上有紧密的合作。

网易云易盾的专家在最后表示,少年儿童是祖国的未来,是中华民族的希望,技术人用代码守护互联网纯净内容生态是他们应尽的职责。