受台风“梅花”的影响,中秋节后的杭州迎来了阵雨天气。在台风来临的第一天,网易大厦门前陆陆续续集结了一批人,他们今天都有着一个共同的身份—一日“鉴黄师”。
在许多人看来,“鉴黄师”似乎是个新奇神秘、福利满满的职业。一天的工作内容不外乎浏览大尺度图像影片,动动鼠标,倒也还算轻松。
但“鉴黄师”的工作内容真的就像传闻中那般轻松吗?网易易盾是网易智企旗下一站式数字内容风控品牌,助力企业客户识别、阻断不良有害信息传播。在此次体验日中,网易易盾内容审核培训讲师用自己丰富有趣的课堂给出了答案:鉴黄师的工作内容远不止“鉴黄”而已。
讲师在审核员专业知识培训中和此次参加活动的鉴黄师体验官们说道:“所谓的互联网‘鉴黄师’实则是互联网内容安全审核员,主要负责过滤互联网上的不良有害信息,把控互联网内容安全,净化互联网环境。”
目前,互联网上主要的不良有害信息可根据内容分为涉黄、违禁、诈骗等,而“鉴黄师”的主要职责就是鉴别、检测、分类与标注色情有害内容。
在经历了为期一天的体验后,不同身份、不同职业的鉴黄体验官们也同我们分享了他们的看法。
“在参加活动之前,我就做了一些功课,其实‘鉴黄’只是鉴黄师这个岗位审核内容很小的组成部分,审核的内容还会涉及一些血腥违法的东西”。
小施是位标准的 00 后,正在杭州读大四的她也是这次体验活动中的“老幺”。她告诉我们,这次专业知识培训的内容让她对网络信息安全有了一个更全面的了解。
“我上个学期修了一门名叫‘网络信息安全’的课程,今天的体验让我觉得自己又回到了课堂之中。只不过当时老师是从教材出发,而今天分享的内容则更多从业内角度出发,二者的结合让我对网络信息安全有了一个更为全面的了解。课程中所提及的《国家安全法》也正好是我上次撰写的论文所涉及的一个内容,所以我还是蛮开心的。”
“好玩、新奇、比较神秘”则是从事电商工作的莎莎对“鉴黄师”的初印象。作为一名直播场控运营,他表示,直播间中时常出现评论带节奏的现象,因此他格外注重文字的审核,也深知视频、图片平台所面临的审核困扰。
“这次体验让我印象最深刻的地方和‘黄色’无关,反而是老师讲解的有关‘违禁品’的内容让我学习到了很多知识。此前我并不知道,原来有些东西其实不能出现在网络平台上,这给我留下了非常深刻的印象。”
为保障内容安全,企业乃至个人需规避的不良有害信息远不止“色情”内容一种,有很多出乎大家意料之外的内容其实也属于“不良有害”信息,这些内容的大范围传播会造成负面影响,而这也正是全部体验者都有所提及的一大收获。
在医疗行业工作,自称“标准大叔”的郑先生也和我们分享了自己的独特见解。
“我之前认为‘鉴黄师’是一个比较专业的职业,今天听过课程之后,我觉得其实我们每一个网民都可以去了解有关内容安全的知识。因为这对于我们在上网时的信息安全、网络安全,对一些个人的行为,比如信息传播的渠道、内容的鉴别都十分有益。”
当被问及自己身上有何特点和鉴黄师这一职业较为匹配时,他幽默地说道,在看见这些尺度相对较大的图片时,“自己心不动,人也不为所动”。已经取得“三级等保”认证的他在紧张刺激的“审核大比拼”环节也取得了第二名的好成绩,这个环节也让他印象深刻。
“在审核实操环节,我一次性接触到了非常多的不良图片,我认为在信息大爆炸的时代中,这些‘漏网之鱼’需要我们及时去发现。”
也许是出于自己“过来人”特有的心得体悟,连续创业的高先生选择用“有社会责任感”一词来形容此次的“鉴黄师”体验活动。
“网络上低俗色情的内容非常多,几乎每天都会遇见。不论是在移动端还是在 pc 端,都会出现这些内容,这种灰色产业是一件颇令人感到无奈的事情。基于我个人的上网体验,我认为很多自媒体‘带节奏’都很厉害,所以保障内容安全对我们国家、我们的下一代非常重要。”
“下一代”、“未成年人”是高先生在交流中频频出现的关键词,他十分重视网络信息对青少年的影响:“毕竟我们已经是成年人,可还是有很多未成年人很难阻挡一些媒体所发布的‘带节奏’内容”。
从事医疗行业内容管理的祝先生则在这次体验活动中认认真真当了一回”学生“,他告诉我们,自己在培训中认真做了一些笔记,等结束回家后,还要再自我消化一下知识点。
“经过这次体验之后,我可以把讲授的内容运用到自己的生活之中,可以更加直接地判断某一内容是否合规,课程当中教授的《国家安全法》、《网络安全法》以及相关的政策留给我的印象十分深刻。”
但有趣的是,认真听讲的他却没能在审核大比拼环节中取得理想的成绩,他本人也对自己在这一环节中的表现并不满意。
“我看了自己的成绩,好像是倒数,”祝先生笑着说道,“其实知识点也是现学现用,在审核过程中,自己更多依靠主观判断图片合规与否。不过,我觉得自己可以通过这些错误来帮助自己纠正日常的一些行为,也可以加深理解,拓展自己在这一领域的知识”。
作为一名算法工程师,橘子谈论的内容十分具有“科技感”,各种专业名词信手拈来。
“我对‘鉴黄师’内容审核模型的流程有一定的了解,‘鉴黄’也是易盾做的比较好的一个方向,易盾对内容标签的处理要更为细化,在这个领域的积累也更为深厚,标签的体系也做得很好”。
相较于其他人,从事计算机行业的橘子对内容审核的了解要多得多,在接受采访时,他也直言道:“易盾在内容审核方面做得比较好,属于行业前沿,所以我想来学习一下先进的内容审核经验”。
现如今,互联网成为了大家生活中的必需品,传递信息的渠道也比以往任何一个时代都要多,飞速传递的信息便利大家的同时,也给了不良有害信息可乘之机。保障网络空间的安全,不让不良有害信息侵害网络,“鉴黄师”的付出功不可没。
在经历了为期一天的“鉴黄师”体验后,不同行业的从业者接触到了全新的领域,解锁了新鲜的体验,也纷纷意识到了“鉴黄师”这一职业对守护清朗网络空间的重要性。
自 2016 年成立以来,网易易盾就一直深耕于内容风控领域,守护企业的内容安全,为企业的合规发展保驾护航。在技术团队超强实力的支撑下,网易易盾研发出了高效智能的内容审核体系,用核心技术助力“鉴黄师”审核工作开展。
未来,易盾也将继续致力于此,为构筑安全清朗的网络空间贡献自己的一份力量!