中文站

“吃播”被点名批评,敏感内容几时休?

为了夺人眼球,吃播主播会推出新奇策划: “一人吃十人份的披萨”、“十五分钟吃完一大缸拉面”、“一口气吃掉十个猪蹄”……

近日,央视、人民日报、新华社相继发布消息称,现在所谓的“大胃王”网络吃播秀浪费严重,甚至有人吃了再把东西吐出来。

吃美食本是人生一大乐事。对于吃货们来说,“吃播”原本是一种精神享受。如今,吃播却在逐渐变味。


为了从激烈的竞争中脱颖而出,吃播主播时常以“大胃王”人设来博取眼球。其中,不乏一些博主挑战超出常人的食量,又偷偷将食物吐出,造成严重粮食浪费。

有专家指出,“大胃王”吃播秀是非常不好的苗头,这种自媒体的消费导向让人非常担忧,与全社会建立节约意识,减少食物浪费完全背道而驰。

消息一出,视频直播平台相继看向美食区“吃播”内容,细化运营规则,整治相关不良内容。实际上,短视频直播平台面临着巨大的内容审核压力。治理敏感内容,不仅需要理念变化,更需要技术跟进。

一、短视频直播平台哪些能力缺失?


随着网上舆情发展,快手、斗鱼、抖音等多家网络直播平台快速反应,积极响应中央号召,对以美食类为主要内容的直播做出规范要求。

12日,抖音相关负责人回应称,一旦发现用户创作中有暴饮暴食,以假吃、催吐、宣扬量大多吃等方式博眼球的行为,将根据情节严重程度,给予删除作品、关停直播、封禁账号等处罚。

目前,一部分浪费严重的“吃播”类视频已经全面下架。为了淡化大胃王标签,多位博主开始改名以避风头,其中“大胃王密子君”微博昵称删去“大胃王”三字,“大胃mini”也将微博昵称改为“梨涡少女mini”。

在抖音、快手上搜索“大胃王”、“吃播”等关键词,会出现珍惜粮食、杜绝浪费的提示。在B站搜索“大胃王”等关键词时,在首条醒目位置增加了“珍惜粮食,合理饮食”的提示语。

假吃、催吐、暴饮暴食等食物浪费的“吃播视频”带来不好的社会影响,使其上升为敏感内容,成为新一轮的监控对象。此前,抖音上猎奇、恶搞等危险视频也曾受到公众关注。

直播业务是各大短视频平台的必争之地。过去,短视频直播平台以流量为导向,在算法技术上下了很多功夫,却忽视基础设施建设,首当其冲的就是平台对于敏感内容审核和监管能力。

近年来,短视频直播平台因敏感内容监控失败,屡屡上头条,这显示出平台繁荣背后的巨大隐患:内容审核严重不足,风险把控缺失。各大平台必须具备严格审核机制,及时下架有隐患的内容,并就敏感内容做出相应的安全提示。

二、敏感内容整治工作难?

《经济观察报》报道显示,一些主播,凭借吃播带货,年收入过百万。为了追求流量,一些人已经不择手段,不断触碰红线。巨大的经济效益也让吃播走向公司化,单个主播背后是组织化的运营,这也加重了监管难度。

中国社科院财经战略研究院互联网经济研究室主任李勇坚指出,一些有组织的直播活动,对于食物的浪费其实是非常严重的。建议用人工智能的方法限制一下,不让它流传到网络平台上,加强监管的责任。


视频审核需要细化到帧,克服动态带来的审核难题,仅靠人工审核无法高效实现。实际上,排查敏感内容,除了理念变化,更需要技术跟进,以减少内容审核压力。与文本和音频相比,视频类的信息较为复杂,“AI智能过滤+人工审核”的模式成为一种更常态的方向。

作为互联网安全服务提供商,网易易盾致力于通过提供场景化的内容审核解决方案。经过22年的实践探索,网易易盾智能审核管理系统已经建立了完善的内容审核流程,全流程溯源,保障内容安全。


首先,机器检测机制能够实时过滤90%的数据。在企业自定义敏感标签之后,智能审核中台能够就类型进行审核任务分配,分步分层操作。后期,系统能将用户画像、异常指标等统计数据沉淀下来。易盾的优势明显,主要有以下几点:

第一,为了帮助企业更好地进行内容安全和合规检测,网易易盾推出了全方位内容审核服务,涵盖文本审核、图片审核、视频审核和音频审核,标题、封面、弹幕等联动审核,进一步平台加强监管能力。

第二,对直播短视频平台来而言,找到关键词是识别内容问题的常用手法。网易易盾的“智能关键词”功能,不仅能够自定义关键词级别,配置灵活,而且能够自动关联变种词,持续更新文本词库,及时识别新型不合规内容。

除此之外,“智能规则、高频规则、文本特征、联系方式”四大等特征库能够灵活配置,降低安全风险。

第三,易盾的“智能电视墙”模式,能够对用户、热度关联进行分析。数据大屏实时查看有害信息分布情况,内容安全指标,把控安全风险。

8月3日,国家网信办、全国“扫黄打非”办等8部门联合召开工作部署会,通报了网络直播行业专项整治和规范管理工作进展。

随着5G和移动终端普及,让各大短视频平台收获了数以亿计的用户,“能力越大,责任越大”。加强内容审核能力,保障用户安全必将成为平台发展的趋势之一。