中文站

探访网易宁波中心,易盾再添一大内容审核基地


网易位于宁波奉化区的全新办公大楼于去年年底正式投入使用。走入网易宁波中心,安静的大堂里员工来回走动,一位位互联网内容审核员正在办公室内小心翼翼地处理着直播中嘈杂刺耳的信息,让网络环境少一些乌烟瘴气。

去年以来,作为网易安全审核部门的易盾,在网易宁波中心内设立办公点。这是易盾在全国范围内设立的又一大内容安全审核基地,旨在为互联网平台企业提供更为优质完善的内容安全服务,以科技技术为核心驱动力,抵御内容数字化转型带来的风险。

目前,易盾的人工审核先后在国内的浙江、河南等地区落地,构建起了全国性的互联网内容审核服务基地,助力清朗网络空间建设。和很多落户奉化的互联网企业一样,网易易盾带着创新性业务、智能化技术和更多就业岗位来到这一片山水之间,陆续增加了数百个就业岗位,受到政府和社会各界的支持。

01落户新区、打造一站式内容安全服务


一直以来,数字内容“数据量大、风险变种快、对抗性强”是互联网平台面临的重大难题之一。特别是自疫情以来,线上信息交流和娱乐生活更加丰富,网络空间充斥着虚假、诈骗、攻击、谩骂、恐怖、色情、暴力信息,互联网平台企业在履行主体审核责任时的困境更加突显。

网易易盾致力于打造一站式内容安全解决方案,不断探索更好的方式来缓解数字内容审核过程中的压力,采用人工审核和智能审核相结合方式,借力人工智能技术、大数据与云计算技术,实现了对互联网内容业务的保驾护航。

智能审核是基于人工智能(AI)的内容安全技术,结合深度学习、自然语言识别、图像OCR、语音识别ASR等多种技术,对直播、点播、短视频等、社交APP、游戏、论坛、文学等场景下的视频评论、弹幕、资讯、账号信息、头像、昵称、留言板、聊天频道等功能中的视频、图片、语音、文字内容进行全维度风险检测。

在颠覆性技术日益成熟的当下,人力审核减少了近9成,但人工审核始终在数字内容业务中保有重要的位置。AI工具辅助人工审核,AI判定疑似违规的内容,再经由人工审核确认,在提升内容审核的效率的同时,对于不良信息的核查拦截更精准。

在奉化审核基地,日审核内容过千万,百人内容审核团队与人工智能技术并肩作战,团队采取了更加科学合理的人员管理机制,通过人机协同的审核中台,以更智能、更温暖的方式,助力互联网内容业务提升对不良内容的“免疫力”,为营造清朗文明的网络生态环境出一份力。

02创造就业、推动全领域的互联网人才培养


互联网内容审核员是抗击有害信息,维护清朗网络空间的重要成员,也是受到国家认可的互联网行业人才。网易易盾聚焦“互联网内容审核员”的培养与发展,为区域创造更多互联网相关岗位。

据悉,2020年6月,人社部增设了“互联网信息审核员”工种,中国电子学会联合有关单位于2020年编制并发布了《互联网内容审核职业技能等级标准》,人力资源社会保障部、公安部共同制定了《国家职业技能标准——网络与信息安全管理员》。文件指出,新兴的“互联网内容审核员”,依据不同技能要求分别设立初、中、高三大职业等级资格,引导职业规范发展。

自2020年以来,网易易盾携手职业资格发起机构—中国电子学会,通过标准化的职业培训,涵盖新闻基础、智能审核平台原理与操作、内容审核规则配置、内容审核职业技能解读等课程,鼓励互联网内容审核从业人员参与等级考试,积极提升审核素质,满足从业者在中长期的职业发展需求。

奉化区投资促进局相关负责人对此表示,奉化长期以来十分重视人才引进与培育的工作,关注城市就业创业的活力。网易易盾的到来,有利于聚集网络安全方向的IT人才,为奉化高质量打造“数字经济”产业地标,不断丰满“数字生态体系”注入强劲动力。为此,区政府定制了一些高层次人才优惠政策,搭建一站式综合性人才服务,助力企业单位用人“降本增效”。

03科学管理、减轻内容审核员的工作负担


的确,随着国家对内容风险的关注度提升,互联网内容审核员因其特殊的使命而工作压力大增。每年过检数亿量级的数据,对于个体而言是一项巨大的挑战。经过多年的摸索,网易易盾内部的管理能力沉淀下来,团队协同创新,以智能审核中台为载体,人机协同作战,服务网易内外部互联网产品。

对于各大审核基地的运营,网易易盾始终加强关注审核员的身心健康,采取各种方式降低个人的工作压力。在奉化基地的审核员享有一系列关怀变革:

一是,提供免费的职工宿舍,进一步缓解通勤压力,保证深夜和凌晨值班的审核员的休息;

二是,引入人性化的轮值班机制,每天3个班次严格落实8小时工作时间,并限制单周深夜至凌晨的排班天数;

三是,开展定期的团建与心理健康咨询,帮助审核员更加快速地融入工作环境,保证审核员的心理健康。

网易易盾审核部负责人董超表示,

未来,易盾不仅要快速响应有关信息安全的政策,也将积极推进智能技术研发与高素质审核员培养,构建多层次的内容安全人才体系,为审核员提供职业成长机会,确保合理的工作节奏和力度,以人机协同为抓手,有条不紊地完成全天候不间断的内容值守。