中文站

网易易盾祝卓出席AIIA大会,探究数字经济时代内容安全破局之道

在“万物皆可内容”的新趋势下,只要有屏幕的地方就会产生数据、就会产生内容,数字内容牵涉到各行各业。数字内容安全治理需要积极拥抱新技术,顺应时代的发展。

—— 网易易盾副总经理祝卓

今年以来,网校、直播、文学、社交平台相继被暂停业务数月,甚至被关停。“净网2020专项行动 ”击中了不少内容平台的“阿喀琉斯之踵”。针对UGC创作模式带来的海量内容,人工智能技术在内容安全领域有了用武之地。

9月29日,由中国人工智能产业发展联盟、中国信息通信研究院主办的AIIA2020人工智能开发者大会在北京成功举行。作为AI开发者的年度盛会,大会汇集了政府部门负责人、头部企业代表和行业专家,共同探讨人工智能在多个领域的应用与发展。


会上,网易易盾副总经理祝卓以《护航新基建,网易易盾助力内容安全产业升级》为主题发表了演讲,深入剖析新基建带来的多行业发展、数字内容安全治理面临的机遇与挑战,并展示了先进的“人工智能+内容安全”的技术实践。

一、数字技术光环下的内容黑洞

当我们提到内容时,我们在谈论什么?

近年来,MCN、知识付费、在线教育、在线直播和电商带货的爆发,应证了“万物皆可内容”的现实,也折射出用户需求的变化,从获取信息到打发时间、调剂情绪、排解焦虑……

可以看到,内容不再只是局限于新闻消息、影视剧、社交媒体、社区网站等的传统范畴,而是更广泛的数字内容。在进入社交网络时代后,用户从被动到主动,内容创作更加灵活、更便捷、更产业化。

○ 美国标普公司的报告显示,全球数字内容产业总产值在2018 年达到了1896 亿美元,预计到2025年将达到3438亿美元。

○ 国家统计局数据显示,以“互联网+”为主要形式的文化信息传输服务业营业收入为7990亿元,增长34.6%。

○ 工信部统计数据显示,2017年我国以IP为核心的网络文学、游戏和音乐等泛娱乐产业约为5484亿元,增长32%,占数字经济比重超过20%。

未来,只要有屏幕的地方就会产生数据、就会产生内容,数字内容牵涉到各行各业。”网易安全部副总经理祝卓在AIIA2020人工智能开发者大会的发言中这样说道。


今年受疫情影响,更多内容从线下搬到了线上、更多人来到互联网平台成为内容传播者。在祝卓看来,这些在给内容产业注入一波新的生命力的同时,也无不考验着数字内容安全治理的能力。

首当其冲的就是不良内容,包括涉黄、涉暴、涉恐、赌博诈骗等多种类型。除此之外,算法风险、内容造假、版权保护、隐私泄露等新问题也渐渐浮出水面。

这些问题的危害面大而广,危及国家安全、行业、企业和个体网民,营造清朗的网络空间刻不容缓。在祝卓看来,内容安全问题将会与整个信息产业的发展并行,这是一个长期存在的问题,也是一个持续相互博弈的过程。

二、应对挑战:用好人、技术和标准

今日头条模式展现了技术对内容产业的改变:新闻由机器人编写,传统编辑负责简单校对和观点调整;算法精准推荐占据了信息流分发的主导地位。

祝卓指出,在过去很长一段时间里,媒介更替带来了内容产业的持续变化。如今,5G、人工智能和大数据等技术的逐渐普及,使得数字内容产业呈现新趋势。

内容生产人机协同化、内容传播由算法推荐主导、内容消费沉浸交互化、内容与行业结合更加紧密……从内容生产到内容传播,内容产业的不同阶段都受到了技术的深刻影响,内容安全环节也不例外。


祝卓从事网络安全工作10多年。对于保障互联网内容安全,他在心里已有一套成熟的方法论。他认为,数字内容安全治理需要积极拥抱新技术,采取数字化治理新方式,包括治理模式创新,利用数字技术完善治理体系,提升综合治理能力等,以顺应时代的发展

2020年,与国家标准《信息安全技术-互联网信息服务安全通用要求》出台,对企业在内容安全中应具有的技术手段做了明确规定。

在此基础上,易盾持续创新算法和框架,AI内容安全技术得到发展迅速。当前,易盾的内容审核体系能够实现主动防御,实时计算,提取多元特征进行深度学习。

针对真实场景下的海量内容垃圾,从基础分类,到模型搭建,再到策略定制,多模型融合的分层计算方法大大提高计算效率。

不仅如此,在数字内容的安全审核上,同样需要规范的行业标准。过去几年,在制定有害信息分类标准的同时,易盾也参与起草了《基于文本识别的内容检测服务系统指标要求和评估方法》等4项行业标准。


“人是第一生产力”,在易盾眼中,机器审核技术突飞猛进,但只有当人与机器达到和谐时,审核效率才能最优化。这意味着技术和标准并行的背后,是互联网内容审核员的新型职业技能培养。正是这些人在一线使用技术,配齐标准,其重要性不言而喻。

为此,易盾团队参与编写《网络与信息安全管理员》国家职业技能标准,并携手中国电子协会推出配套课程和证书,助力行业培养人才。

被誉为精神食粮的内容,与餐饮业一样,是一门“日不落”的生意。

思维造物的IPO招股书显示,随着线上产品矩阵的日益丰富,“得到”App付费用户ARPPU持续上升,由2018年的188.55元提升至2019年的231.93元,同比增长23%。

可见,用户越来越愿意为内容付费。针对这一趋势,祝卓强调,“内容为王”已经成为了数字内容产业的核心竞争力,谁家做得好,谁家就会有产业产值。内容产业潜力巨大,永远有新机会,值得各方共同努力。

相关阅读:

中国通信院发布评测结果,网易易盾AI内容识别技术获官方认证