近几年,直播和短视频成了一个巨大的风口,迎来爆发式成长。直播平台高速发展的同时,也被灰黑产盯上,视作“流量蜜罐”,利用直播流量曝光机会,植入涉黄、低俗类、广告、违禁等不良信息。本文主要介绍直播平台内容审核存在的风险以及如何解决直播内容安全的问题。
一、直播平台有哪些内容安全风险?
灰黑产善于追热点,寻找流量。哪里有人气、哪里有流量他们就在哪里扎推,不分昼夜,尤其会选择夜间这一防守相对薄弱的时间段来发布垃圾恶意信息。更为可怕的是,内容制造商团伙一般是通过协作的形式进行不良信息发布,他们有的是需求方,有的是接单方,而在接单方中又会细分为自动发帖机提供方、批量账号提供方、垃圾内容制造方等。
直播平台内容运营风险主要来自于两方面:第一是政策法规,政策法规一 般是国家在法律层面禁止的,比如诈骗、谣言敏感信息、淫秽色情等这些在法律条文上是明文禁止的。据不完全统计,2019年,有上千款应用和服务因为内容安全问题而遭遇下架关停等整改,业务发展遭受巨大损失。
第二是用户体验。常见影响用户体验内容是广告推广、恶意刷屏,如果推广信息不加以控制,广告泛滥,造成的结果就是浏览屏的一半都将被广告信息占据。在这种情况下,直播平台的用户体验必将大打折扣。
二、直播平台内容审核的难点?
从直播类产品痛点案例来看,目前直播平台内容内容审核存在4个常见的难点:
1.弹幕聊天室的实时审核;
2.色情审核,现在仍然有秀场类的主播通过衣服脱下去再马上穿上的秒录行为打“擦边球”,如果监管不及时,很难抓到;
3.用户突发通过平台直播一个群体事件或者不良事件,平台需要担责;
4.内容审核成本和技术方面的需要持续的技术积累和费用投入。
三、如何解决直播内容安全问题?
针对直播平台面临的专业黑产、政策法规规范、用户体验差等风险,网易易盾提供专业的视频直播内容安全服务,提供弹幕实时过滤、用户头像/昵称过滤、聊天区文本/图片过滤、直播间电视墙监控等一站式内容安全解决方案,支持过滤色情、广告、暴恐、违禁等多种垃圾信息,支持专属直播、点播视频垃圾过滤方案定制。
网易易盾为直播平台提供了低成本弥补内容审核软肋的解决方案,帮助直播平台更快更健康的发展。
相关阅读: