中文站

与鉴黄师同行,不同行业从业者有话说

“这个职业与我们的想象还是有很大的不同的”
“大家以为鉴黄师可以每天看到‘福利’,其实并不是”
“你需要对这些信息进行脱敏,并跟生活分开”
天的鉴黄师体验活动虽然短暂
却让不同行业的体验者们产生了不同角度的深度思考

   

     #01 间隔年中的互联网产品经理


    不得不说,很多自信的男性,很多骄傲的女性,他们喜欢以各种各样的姿势展示自己的身材,展示自己的生殖器。在看几百张黄图之后,我就对这个东西免疫了,感叹为什么有这么多性焦虑。


     我最近都“赋闲”在家,有这种机会,不如就体验一下当一名鉴黄师吧,尽管没有入行的计划,但内心充满了好奇,想从新的视角来审视互联网,增加对这个世界的认知。


    在2日的体验中,最刺激的部分是发现了平时接触不到的信息。作为一名鉴黄师,正儿八经地坐在工位上,打开后台中源源不断的数据才发现,原来用户有这么多种方式去搞黄色,网民的想象力太丰富了。


    涉黄内容分很多种,色情、性感、低俗往往交融在一起,但是分属于不同的大类,例如穿比基尼算是性感,但穿情趣内衣就是色情。面临人类文化里面的一些界定,如何区分不同概念和读出引申含义?到底什么是性感,什么是色情?这是人类优于人工智能的一些地方。


    判断标准其实是人为界定,定性标尺再从人转移到机器,从而让计算机具有了更高的智慧,理解人类的情感、价值观、潜意识,以及联想能力,以减轻审核员的压力。


    这次体验就像去博物馆,去看一场电影,让我知道不同岗位、不同职业、不同行业在做什么事情,这是有意思的事情。一个不一样的启发是,在风平浪静的日常生活中,没有任何事情发生,实际上这并不是世界本来的样子,而是有我你看不到的一些事情,看不见的人在做努力,让这个世界变得更加美好。我们身处的互联网环境,正因为有审核,才会那么干净。





    #02 身为护士的95后体验者


    “一张照片放在你面前,你一眼看出来它表达的意思到底是什么。有的性感让你觉得漂亮,不是特意暴露某一个部位,有的性感让你不舒服,觉得它不雅观。”


    我是一名护士,我们的工作更忙一点、更辛苦一点,但每天都和不一样的人打交道,而不是一直在办公室坐着。在平时的工作中,我们也直面人体的私密部位与器官,从工作角度来说,他们是病人,出于信任把身体交给我们看护与照顾,并没有带来更多想法。大大小小的场面都见过,不太会产生特别大的冲击。


    然而,在互联网上,人体被恶意色情化了,健康的人却把自己的私密部位公之于众,反而让人难以接受。在审核过程中,某些画面跟我的三观不合,看起来不太舒服。两类视觉对我造成的冲击是不一样的。
好在有人工智能作为第一道关卡,机审准确率很高,先抓出来一些明显的不良内容,不会流入审核员的屏幕中。这样心理冲击小很多,基本上没有太大的问题。


    上岗后,最大的挑战还是在于主观对审核内容的把控,没有办法一一去对应上百条审核规则,又得快速判断,变得很忐忑,尤其是面对拐弯抹角、隐晦信息。


    这些内容来自于部分“知法犯法”的网民,他们也知道随意散播黄色淫秽内容不合规定,但还是抱着侥幸心理打边缘球,经过虚化、马赛克、语义多种狡猾的处理,为的是难倒了机器。这时审核人员上场评判,结合具体情况、平台规则来分析,扮演好互联网的第二道安防线。



        #03 “白帽”网络安全程序员 


    “从门口往外面看的时候,是不是比在门内的人看到更多不一样的风景,想看一下别人没有看到的风景。”


    我来之前跟同事闲聊,他们大多数这样想“这种工作不适合男生,对身体不好”。在我看来,每一个工作都不是那么容易,不同职业有不同的辛苦和难处,要看个人是否合适。


    “为了把黄色信息拦在外面而存在。”


    “一个一个把影片下载下来,和别人一起看片,尺度比较大。"


    神秘且隐私,不能在大众层面上暴露出来,在工作招聘中也没有见过。”


    “接触不到,越接触不到,越想去了解。”


    许多人对“鉴黄师”存在着幻想。我自己从事网络安全,更多关注代码层面的异常与危害,文字、图片这些直观的审核没有接触过,想看一下消除鉴黄、性暴力的内容安全是如何实现的。


    我发现,这个工作原来和我想象的还挺不一样。数据集中到一个后台直观呈现,先通过AI机器审核,把一些可疑文字、图片提取出来,这样不需要大量重复,内容相对少很多,这是一个更精简、更高效的过程。


    AI技术基本上把大部分违规内容分辨出来了,留给我们人工的无非是极少的部分,对难判断、打擦边球、隐晦内容进行审查。


    这些内容更狡猾,就像我拉着一些逻辑、系统的问题,也并不是直观能看出来,需要去联想、尝试不同的地方、不同的点,去摸索对方违规的心思。


    令我印象深刻的是,将水果、植物、石头,雕刻成不太好的外形,这种较难判断。如果有心去想,它就是违规的,如果自然形成,也不能算违规。有时候我认为挺正常的内容,其实不可以流到市面上,还得根据产品业务要求来判别到底有没有超过红线。


    新鲜感过后,更像是内容编辑,成就感体现在社会责任上,应该有一些共情,在网络信息爆炸的当下,他们也是在守护互联网环境,是不是?



    #04 公关媒体从业者


    “文本审核要求复杂的思考,好像语文的阅读理解一样,去思考这句话到底想表达什么意思,去设想在什么情况下产生。网络世界的黑话、暗语太多了,没有专业人员的培训,完全不懂。"


    之前的理解是,社交平台会有一个这样子的环节,不是任何东西都能发出去,不合规内容在后期会被删掉,如直播中出现的不好的言论、不雅的动作。不过,不清楚的是,这些内容是怎么样被定位与删除的?是平台自己删除的,还是由专门的安全部门完成的?


   好奇心的驱使下,我报名了体验活动,跟自己的预期有很大差别。在别人眼中,这是一份很轻松的工作,还有“福利"相随。但其实体验下来之后,我才发现,“鉴黄师”工作既有新奇的一面,也有枯燥的一面,在感官冲击之后,是层出不穷的挑战。


    一是,这个工作不是这么浅层次的,而是体系化的互联网内容审核。换句话说,不仅是涉黄,还有包括恐怖、暴力、广告等更多方面。鉴定的门类很多,规则也很多。专业鉴黄培训师涉猎很丰富,各个方面、各个行业都有了解,知识库很全面,说了很多东西我都根本不知道,需要去搜索学习。


    二是,在我想象中,这个工作会更简单点。实际体验下来,对尺度把握、准确率、速度都有要求,一个审核员在日常工作中,高强度地去过滤这些信息非常辛苦。在审核能力鉴定上,我是暂时不合格的,需要经过一段时间的训练。


    我看了一下,现在审核的内容完全不适合未成年人,一定会污染他们的幼小心灵,产生心理、生理上的不适,也可能带来不可预知的危害。我年纪比较大,心态也更成熟,能自我调节,但长时间从事这工作,也坚持不下去。因此,我更加敬佩这个岗位上的工作人员。


    是什么样的体验让小伙伴们金句频出呢?

    

    来一起回顾一下体验现场~


<iframe src="//player.bilibili.com/player.html?aid=804973036&bvid=BV1Fy4y157M6&cid=391920720&page=1" scrolling="no" border="0" frameborder="no" framespacing="0" allowfullscreen="true">