中文站

视听平台如何保障内容安全?网易云安全分享智能化实践


▲网易云安全(易盾)CTO朱浩齐分享人工智能时代的内容安全实践

 

视听媒体行业诞生百年,一直朝向更富媒体和社交互动的方向发展,不断为用户拓展新的体验。2017年,产业中凸显出三个趋势:第一是垂直渗透,视听互动正在作为标配功能嵌入到旅游、金融、电商等行业应用。另外,不同媒体形式的交叉融合正在加快,媒体不断增加新的视听内容,音乐应用上线短视频等,泛媒体泛娱乐成为共识。最后,更多媒体形式、更多互动和海量内容也给视听平台带来更大更复杂的内容安全监管压力,内容安全必须走向智能化。

 

智能时代视听平台如何构建高效的内容安全系统?朱浩齐在会上集中介绍了网易的经验。在技术上,尽快采用基于自然语言、深度学习技术的智能识别技术改造传统以关键字和特征库为代表的内容识别技术,保证对文字、图片、语音,特别是直播视频的覆盖。在产品上,应该注意内容发布特别是UGC互动接口的覆盖度,除了评论、博客、相册、弹幕等,不能疏漏昵称、头像等签名等角落。在策略上,应该建立对有害信息精细明确的审核体系和应对流程,做好应急响应。

 

会议上,网易云安全(易盾)还分享了和知名直播产品一直播、广州电视台旗下触电新闻的合作经验,以及网易云安全(易盾)发起的内容安全联盟,和客户共建内容安全实验室,定期沟通灰黑产情报,为数百家互联网企业有效控制内容风险。


▲现场网易云的展台

 

中国网络视听大会由国家新闻出版广电总局、国家互联网信息办公室以及四川省人民政府指导,中国网络视听节目服务协会、成都市人民政府主办,是国内网络视音频领域规格最高、规模最大、“干货”最多的行业盛会。网易云旗下云安全产品“网易易盾”和网易有料智能信息流服务、网易人工智能见外翻译平台代表网易视听产品背后的黑科技,参与了本次大会新技术和节目展交会。