他們要消失了嗎？探訪人工智能浪潮下的鑒黃師

　 域名預(yù)訂/競價，好“米”不錯過

文章摘要：

記錄幫我們 清理 互聯(lián)網(wǎng)垃圾的那群人。

鑒黃師是怎樣的一個群體?

在搜索引擎里鍵入“鑒黃師”，會有數(shù)百萬的相關(guān)結(jié)果。在知乎里，輸入同樣的關(guān)鍵字，也有各種各樣的問題和回答。

“如果不考慮薪水、尊嚴(yán)、面子，你最想從事什么工作?”有人就回答了三個字：“鑒黃師”，答案獲得了上千點贊，數(shù)百評論。盡管有一些人向往鑒黃師，但鑒黃師這個崗位，在大多數(shù)人的眼里卻是一個世界黑暗、心理傷害重的崗位。外媒報道，內(nèi)容審查(鑒黃師的另外個名稱)是科技產(chǎn)業(yè)增長最快，但或許是最累人的工作之一——工作壓力大巨大，且普遍遭受心理傷害。

而在另一面，隨著人工智能技術(shù)的進(jìn)步，一部分人認(rèn)為鑒黃師的工作要被人工智能替代。

在這個態(tài)勢下，如今的鑒黃師是怎樣的一群人?處于怎樣的一個生存狀態(tài)?盾盾踩方團第二期帶領(lǐng)大家了解下網(wǎng)易的鑒黃師：

視頻：https://v.qq.com/x/page/z071138zuwc.html

上班看黃圖

和沈鵬煒、許嘉奇、袁鵬、邊雪菁約好的那天，是個陽光明媚的下午。

他們的辦公室門禁森嚴(yán)，進(jìn)出都要刷卡。帶我們穿過一段較長、兩邊窗簾都拉下的走廊，便來到了另一頭的會議室。會議室靠窗，很明亮，在這里我們就各種話題聊了將近兩個小時。

對于鑒黃師的稱呼，他們沒有直接否定，只是在后來確認(rèn)內(nèi)部是否也這么稱呼時，才告訴我們，網(wǎng)易其實內(nèi)部的真實崗位名稱是叫“信息安全審核專員”。而且工作范疇并不純粹鑒黃，色情之外，他們也會處理血腥、暴力、恐怖主義等內(nèi)容。

大家可能會認(rèn)為鑒黃師男生偏多點，抗壓力能力好，然而沈鵬煒說，實際上是女生偏多點。雖然女生有一些短板，但長處非常明顯——她們非常細(xì)心，容易發(fā)現(xiàn)一些細(xì)節(jié)上的問題。“不過，招聘上我們會盡量保持平衡，女生招得差不多了，會刻意地去招一些男生。”

外界盛傳，鑒黃師高薪又輕松，工作很有意思。他們說，沒有高薪，也并不輕松。剛接觸這份工作時，的確因為一些小福利，男生可能會有一點小欣喜和好奇。不過女生卻是另外一種反應(yīng)，有些剛畢業(yè)的女生，反應(yīng)會很特別：一開始會特別害羞，臉很紅不敢看。遇到需要處理違規(guī)結(jié)果時，動作會很可愛——哎呀呀，很緊張，閉著眼去點擊鼠標(biāo)。

有意思的是，有些保潔大叔也會被福利所吸引，從一開始納悶他們的團隊怎么每天上班看黃圖，在后面盯著他們看到底在干嗎，到后來形成習(xí)慣，偶爾會在后面享受下福利。

“媽媽，你可以找不上夜班的工作嗎？”

不過，有害信息接觸多了，鑒黃師們都是同一個反應(yīng)：內(nèi)心多多少少會有點崩潰。

崩潰的原因主要有兩方面，一方面是身體上的。首當(dāng)其沖的是他們的工作時間，7x24小時，三班倒，中間不能離人。上夜班的時候，大多數(shù)人到了凌晨三四點就會很想睡覺。有些人的第二個通宵班，真的是需要靠毅力扛過來。而女生處于生理期時，可能會更加受不了。其次是眼睛，由于需要大量看東西，他們眼睛必須一目十行，而這給眼睛帶來的傷害比較大，需要不斷點眼藥水。還有就是：胖，倒班容易肚子餓，而經(jīng)常吃夜宵，就容易有副產(chǎn)品——身上不經(jīng)意間就增長了肥肉。

另一方面是精神上的，有些人覺得每天看黃圖會覺得很爽，然而鑒黃師說，實際上經(jīng)常有一些超出大家想象的高清無碼變態(tài)圖，比如亂倫、變性、虐殺等，它帶來的視覺沖擊力非常大，猶如身臨其境，心理非常容易崩潰，讓你懷疑人生，覺得這個世界太黑暗 ……這非?？简炓粋€人的心理素質(zhì)。

更重要的是三班倒導(dǎo)致的時差，讓鑒黃師沒辦法和正常人一樣社交。他們說，朋友娛樂的時候，他們在睡覺。而朋友睡覺的時候，他們在另外一個世界里清理互聯(lián)網(wǎng)的垃圾。這種犧牲，在逢年過節(jié)的時候，感受會特別強烈，大家都在，就差我一個，這種孤單感會很強烈……

親情、友情，是他們面臨的最大一個挑戰(zhàn)。

邊雪菁告訴我們：“有次晚上9點去上通宵班，他的孩子一改往常不讓我出門，而是突然說：‘媽媽，你可以找不上夜班的工作嗎?”臨走前發(fā)生的這一幕，讓她很心酸，下意識地緊緊抱住孩子，久久都沒有松開。

“休息時間不固定，也會導(dǎo)致自己很有內(nèi)疚感。朋友找你時，你沒法赴約，經(jīng)常這樣，好多朋友都不會再來找你。這樣的感覺，好像是故意疏遠(yuǎn)朋友，自己內(nèi)心很容易過不去。 ”袁鵬分享了自己的過去的一個心理狀態(tài)。

崩潰、麻木后的蛻變

和鑒黃師接觸前，原以為壓力“摧殘”之下，與之談話多少會有點壓抑。然而有點超出我們預(yù)期的是，和他們接觸后最大的感受就是發(fā)現(xiàn)他們，居然是一群積極樂觀的人，深知這份工作存在的意義。

的確，他們一開始會有浮躁和困惑，不知道做這份職業(yè)到底有沒有意義，能否體現(xiàn)自己的價值?每天那么忙，那么累，堅持到底是為了什么?但過了一段時間后，他們就會從多個角度看待問題，認(rèn)識到自己的責(zé)任重大。

邊雪菁是位有一個孩子的媽媽，她在這一點上認(rèn)知特別深刻。她認(rèn)為鑒黃師是一個很偉大的職業(yè)，她說，每個人終將會有孩子，以后你的孩子也會接觸互聯(lián)網(wǎng)。如果沒有鑒黃師的存在，孩子很容易接觸到不良信息。孩子沒有判斷能力，需要保護，否則會被不良信息影響，導(dǎo)致他們的價值觀、世界觀扭曲。“以前我們上網(wǎng)的時候，總會遇到一些含有色情信息的彈窗，玩游戲時也會遇到。”邊雪婧說，現(xiàn)在很少會遇到了，這就是鑒黃師的功勞，讓網(wǎng)絡(luò)空間變得更健康。

有害信息看得多了，人會變得麻木。但正是這種麻木，讓袁鵬有了蛻變。他說，對自己傷害得越大，越是會感受到這份責(zé)任的重大 ：“連我們這些專業(yè)人士都受不了，更何況普通人?”

“我們是有害信息流傳到網(wǎng)絡(luò)上的最后一道關(guān)卡，必須得守好這份疆土，避免有害信息流落到網(wǎng)絡(luò)空間，危害社會健康。”對于這份職業(yè)的成就感，他說，看著社區(qū)、產(chǎn)品里的用戶活躍，沒有被有害信息毀掉，他們也會感到開心——盡管他們是幕后英雄，不曾被人們知曉，也不曾被感激，甚至有人對這個職位理解有偏差，接受不了。

面對身體上的勞累、心理上的折磨，大多數(shù)的鑒黃師沒有選擇放棄，而是默默選擇堅持下去，坦然面對一切。他們?nèi)缤幻ㄡt(yī)：都是要24小時待命、克服恐懼、承受心理壓力，冷靜面對刑事案件里的各種情況，為破案、社會的安定提供可能的蛛絲馬跡。

破壁 “ 枯燥 ”

邊雪菁說，其實每個崗位做久了都會覺得枯燥乏味，尤其是像鑒黃師這樣的，更加枯燥。所以最重要的就是自己去尋找樂趣，把一份普通的工作做到有姿有色。

“我首先是調(diào)整自己的心態(tài)，樂觀向上的就是我，每天上班來的時候嘻嘻哈哈，下班當(dāng)然也是興高采烈。有時候看看審核的圖片、視頻，其實你會發(fā)現(xiàn)很有趣。在審核中，如果你用心，就會發(fā)現(xiàn)形形色色不同的人，有些段子可能不在這里上班都不會知道，所以只要你有個好心情，工作也不會覺得枯燥乏味。”邊雪菁真誠地對著我們說，你要相信不管什么事情，從不同角度出發(fā)都會發(fā)現(xiàn)不一樣的樂趣。

許嘉奇的調(diào)節(jié)是老司機的方式——動不動開車。他會努力尋找讓自己開心的點，一些低俗惡搞的信息、搞笑的圖片：“男人站著高不是真的高，躺著高才是真的高。”偶爾還會分享到鑒黃師的一個內(nèi)部溝通工具里，調(diào)節(jié)自己的同時，也能夠讓大家一起樂起來，獲得提高——進(jìn)一步了解有害信息的分類。

鑒黃師告訴我們，除了這些，他們也會在工作空閑片刻，在辦公室聚個會，共同點個外賣，一起吃東西，互相訴說今天的經(jīng)歷，釋放自己的壓力。深夜下班，有時共同下班的幾個人，也會相約一起擼個串，大口吃肉，大口喝酒，感受暢快人生。

有的人會好奇，回家之后，鑒黃師還會不會再看這些視頻，或者說會不會把內(nèi)容拷貝下來。溝通中，鑒黃師說，他們是不會拷貝視頻的，因為公司內(nèi)部有規(guī)定，審核的信息只能在后臺，不能帶出去。工作之余，他們會不會再看，因人而異。有的人會選擇繼續(xù)看，多看一點，多一分工作經(jīng)驗上的積累。

這讓人很感動，鑒黃師雖然有痛苦、折磨和煎熬，但他們深知自己的責(zé)任，一直在永不停息地努力樂觀和堅韌。

當(dāng)然鑒黃這份工作，也并非沒有一點好處。許嘉奇說，安全意識會變得非常好，一看到什么色情圖片或謠言，都會在第一時間出來提示身邊人不要轉(zhuǎn)發(fā)。有些人會覺得自己消息靈通，要散布消息讓朋友知道，但這樣到處轉(zhuǎn)發(fā)，會導(dǎo)致群被封掉，甚至?xí)o自己帶來不必要的麻煩。第二個是，一目十行造就的火眼金睛，讓他們的觀察力非常敏銳。

技術(shù)“解放”

人工智能潮流下，大家都非常關(guān)心，鑒黃師是不是要被淘汰了?

回顧人類歷史上的幾次技術(shù)革命，答案或許明了。蒸汽機的出現(xiàn)，讓人類進(jìn)入了蒸汽時代，蒸汽開始替代了人力，無論是煉鋼，紡織業(yè)，都由此得到了巨大的發(fā)展;后來隨著電力的普及，人類進(jìn)入電氣時代，開始進(jìn)一步替代人力;而隨著互聯(lián)網(wǎng)、云計算、大數(shù)據(jù)等技術(shù)的發(fā)展，人類又進(jìn)入信息時代……然而不管怎么變化，都是把人從單調(diào)的勞動生產(chǎn)中解放出來，讓他們可以從事更有價值的勞動，而不是單一重復(fù)的勞動。

沈鵬煒說，技術(shù)的介入，的確替代了很大一部分人力，讓技術(shù)成為了主力，人工成為輔助。尤其是幾年前，網(wǎng)易云易盾內(nèi)容安全第三代人工智能技術(shù)接入后，人+技術(shù)協(xié)同，審核效率較之前提升了數(shù)千倍。

但技術(shù)并沒有淘汰掉鑒黃師，卻是解放了鑒黃師。許多海量的工作，人工智能技術(shù)一個規(guī)則就可以立馬處理掉。而不是像多年前，幾個鑒黃師要埋頭吭哧處理好幾天，非常辛苦不說，低效還容易造成內(nèi)容安全事故。

“今天的鑒黃師能夠從事更加高級的工作，比如說，有害數(shù)據(jù)分析、前臺巡查、規(guī)則維護、質(zhì)檢檢查等更核心、有效的工作，因此，鑒黃師也不像以前那樣壓力大和工作繁忙。”沈鵬煒介紹到。

鑒黃師被解放的背后，是一段網(wǎng)易云易盾內(nèi)容安全技術(shù)不斷升級的歷史 ：第一代內(nèi)容安全技術(shù)是建立在關(guān)鍵詞、黑白名單、過濾器和分類器上;第二代內(nèi)容安全技術(shù)基于內(nèi)容特征識別(膚色、紋理)、貝葉斯過濾、相似度匹配和規(guī)則系統(tǒng);而第三代則升級為大數(shù)據(jù)分析(用戶行為、用戶分類)、人機識別、人工智能和機器學(xué)習(xí)(語義識別、圖像識別)。經(jīng)過不斷更新?lián)Q代后，網(wǎng)易云易盾內(nèi)容安全服務(wù)已覆蓋了文本、圖片、語音和視頻(直播)等領(lǐng)域，在廣告過濾、智能鑒黃、暴恐識別等場景應(yīng)用上，有害信息處理效果超出所有客戶預(yù)期。

沈鵬煒最后表示，只要有男人和女人在，欲望就在，鑒黃師也就在 。似乎嫌這樣的說法不夠嚴(yán)謹(jǐn)，他接著又補充一句：“人工離不開智能，但智能也脫離不了人工，因此鑒黃師的未來只會變化，而不會消失。”

申請創(chuàng)業(yè)報道，分享創(chuàng)業(yè)好點子。點擊此處，共同探討創(chuàng)業(yè)新機遇！