中文站

1024技术嘉年华,在“小黑屋”与网易易盾AI机器鉴黄相遇

一、1024

1024,是2的10次方,是计算机二进制的计量单位之一,作为“程序员节”或“开发者节”为程序员们所接受。

10月24日,网易1024技术嘉年华盛大开幕,吸引了数千名技术热爱者参与。网易易盾通过一款神秘游戏,向大家展示了基于“深度学习”模型的机器审核技术与职业鉴黄标准。


这款游戏什么样?易盾团队将“机器审核”技术引入「人强码壮」的鉴黄小游戏中,在神秘的“小黑屋”内,玩家就色情内容识别任务上与AI机器进行对抗,双方同时把关图片、文字内容质量。小游戏画风复古怀旧,在电视上实现大屏幕游戏,向玩家提供了超清晰的视觉体验。


在与机器对抗之前,一个很重要的步骤是,玩家必须熟知与色情内容控制相关的网络信息安全标准:究竟涉黄内容如何鉴别?什么样的图片算色情图片?鉴黄标准如何界定?在短暂熟悉这些问题的解答之后,大家取得了不同的审核成绩。

数据显示,取得鉴黄认识的“普通人”占了大多数,能隐约察觉到不良色情的所在,也有18%的“老司机”见多识广,让职业鉴黄师见了都直呼内行。大概只有一成不到的“小白”对色情内容完全不敏感,像一个涉世未深的孩子。



二、科普Q&A

向玩家抛出鉴黄问题,积极反馈正确答案的“神秘技术”究竟是如何实现的呢?


其实,游戏的背后是易盾自主研发的内容安全“机器检测”技术,得益于专家们的大量训练,机器检测具有听觉、视觉、语义理解等能力,能够“毫秒级”判断数字内容是否违规,返回具体的问题类型,理解人类社会对“色情”的标准与界限,让互联网内容治理更便利与高效。

该项技术已经落地到网易易盾SaaS服务中,助力内容平台发现黄色、暴力、血腥、恐怖、广告、诈骗等“疑难杂症”,并拥有丰富的行业应用,下面7张图带大家了解鉴黄黑科技背后的机密。








三、来自玩家的声音


1024网易技术嘉年华期间,不少玩家体验到了“机器检测”技术的魅力,听听他们怎么说?

机器审核挺厉害的,非常精准,包括动漫都能涉及到,不是单一的真人,还能审核到一些最近流行的网络词汇。如果应用在一些游戏社群里,这个技术可以避免绝大部分违规情况的出现。

——来自新媒体的玩家

从刚刚看的那几张图来看,我觉得审核还是恰到好处的。有一些是在边缘游走的图片,是完全可以给它打标为“不良”的。这样能保证互联网上的环境变得更好。

——来自严选的玩家

在某些人的眼里,有一些素材还是可以接受的。就像“外卖”这个词,它在大部分语境下都是可以接受的,它只是在某一些语境下面不能接受而已。肯定不可能所有的都给毙掉,要结合上下文的语境。

——来自美泰的玩家

做完6道题目,自己还是太年轻了,很多东西还是不知道。没想过会有这种鉴黄活动,应该需要多多举办吧,因为很多成年人对范围界定都比较模糊,更多定位在人体暴露,不知道另外一些隐晦的东西。

——来自智慧企业的玩家

反正有些案例我没有审核出来,机器对于图片中的一些细节都能关注到。这个活动让我们认识到,互联网色情审核机制的一个尺度把握,以及我们自己遇到这种情况应该怎么去处理。

刚刚在挑战中,一副漫画中的女生咬着棒状的东西,我在浏览网页的时候,经常会出现这种突然弹出来的动画,视觉上很不适。

——来自有道的玩家

几道题目下来,多多少少会遇到一些冲击性的画面,感到鉴黄工作真辛苦,承受更多的心理和精神压力。机器还是比人厉害,刚刚也就答对了一半的水平,诸如黑话之类的方面,我完全没有这个概念。

我在社区里也遇到过不良内容,有一段时间,在微博上发现很多账号,在评论区留下引导性内容,尤其是在热搜下面,可能雇佣了专业水军。

——来自智慧企业的玩家

四、活动花絮