继带货主播之后,互联网内容审核员也“转正”了

网易易盾携手中国电子学会组织共同发布“互联网内容审核”人才标准,为移动互联网时代的内容创作保驾护航。

在教育局“1+X证书”(“学历证书+若干职业技能等级证书”)计划下,5月,由教育部等部门部署启动,中国电子学会组织编制的《互联网内容审核职业技能等级标准》(后称《标准》)正式对外发布,旨在进一步完善职业教育标准体系。


信息与通信技术成为首批入选的5个领域,相关职业技能的等级制定工作逐步开展。新标准首次将互联网内容审核职业技能分为三个等级:初级、中级、高级,依次递进,高级别涵盖低级别要求。

过去几个月来,网易易盾积极参与到《标准》起草中,主笔完成中级审核人员相关要求和配套练习题库,充分发挥易盾在互联网内容安全领域拥有20多年实践经验。

编写内容涵盖智能审核平台简介、审核规则配置、数据分析、人机审核平台调度、以及文本、图像、短视频和语音等多种审核方案架构。此外,易盾结合电商、直播、点播、聊天室、弹幕、评论等具体场景,分析了常见的审核要求和方法,使得教材更加接近实操。

在此次合作中,网易易盾始终坚持勇于开拓的创新精神,不仅参与了《标准》这一人才培训教材编写,而且推出了全国首个互联网内容审核(初级)培训课,从理论到实操,将知识内容进行优化整合,确保高质量推进培训任务。

中国电子学会教育工作委员会副秘书长王海涛表示,人才标准编制是根据市场需求为导向,以技能提升为目标,旨在为相关单位选人用人、教育培训、考核评价提供重要参考依据。

一、搭建人才培养体系,助力内容审核标准化

在互联网高速发展的今天,每个人都身处数据信息中心。数据显示,2019年我国网民人均使用流量达7.82GB/月/户,4G用户总数达到12.8亿户。预计到2022年,视频在互联网的数据中占比将达到83%。


新业态、大流量、万众参与令互联网时代内容创作和消费呈现爆炸式增长,这给审核工作带来了巨大挑战。多媒体高效创作的同时,也让网络内容裹挟进了大量色情、违禁、暴恐等不良有害信息。据不完全统计,2019 年,有上千款应用和服务因为内容安全问题而遭遇下架关停等整改,业务发展遭受巨大损失。

由此可见,培养一批素质较高、责任意识强的内容审核人员,成为互联网行业持续繁荣的迫切需要。然而,目前绝大多数平台选择将内容审核团队外包,相关从业人员水平不够高。

正所谓不进则退。网易易盾一直坚持“变革”精神,成立22年以来,致力于制定一套面向未来、智能驱动、统一联动、个性定制和共建众治的内容安全体系。

与此同时,新标准的发布有利于不断发掘新型就业潜力,使“内容安全”与“直播带货”、“网络零售”一道起到稳定就业的重要作用。

二、发挥内容审核经验,联手打破标准孤岛

新标准指出,“内容审核”是指对互联网网站及各类平台、工具等承载的内容进行审查,并对部分内容进行监视、过滤和删除的行为。

人工智能、大数据、机器学习等技术的应用,使得服务方在面对不良信息、反作弊、反外挂等安全模块的处理越来越智能、高效、准确。


以易盾的第三代人工智能技术为例,该套技术提供涉黄、涉政、暴恐、广告等十几大类上千小类的有害内容智能识别过滤服务。每天检测信息上十亿条,智能识别精准率超过99.9%。其中,超90%的内容排查可由机器完成,其余内容仍需要人员进行审核。

虽然内容审核步入了跨越式发展时期,但是当前仍有不少问题仍旧困扰着业界,尤其是内容审核标准不统一。以往,内容安全一直没有一套统一的标准,各家平台在进行审核的时候都是以内部规则为基准,比较主观。

想要改变“孤岛现状”就要勇于革新。方案明确规定,互联网内容审核职业技能等级对应的工作领域、工作任务及技能要求。该标准适用于从事互联网内容审核工作人员职业技能等级的考核与评价,也适用于互联网内容审核从业人员的聘用、教育和职业培训。


例如,针对网络视听内容,必须坚持两条原则:先审后播和审核到位。第一条,互联网视听节目必须要有审核制度和审核员,播出前要认定;第二条,审核员必须看完片头片尾在内的全部内容,影视类动画片、纪录片应由不少于三人的审核员审核……

如今,《标准》的出炉也让各方有了一套行动指南。网易易盾也将持续利用云计算、人工智能方面的技术积累,保障客户业务合规、稳健和安全运营,使客户可以免受黑灰产组织非法侵害,专注推进新一代智能审核平台。