審核員之逝

一位審核員之逝,將互聯網行業的審核員們推向了台前。昨天,2022年春節后的第一個工作日,B站內容安全中心的員工郵箱里,收到了一封“全體通告”郵件。“內容安全中心圖文審核部的夥伴‘暮色木心’永遠離開了我們。”

審核員之逝

郵件中所提審核部的夥伴‘暮色木心’,出生於1997年,生前就職於B站武漢分部,這個春節他繼續上班,沒有回家。2月4日,他因“大面積腦出血”經搶救無效去世。

該事件最初由網友爆料,於2月5日在微博上發酵。爆料中稱,逝者“過年期間被要求加班”並承受“晚上9點到早上9點的工作強度”,且爆料者認為,加班正是其猝死的直接原因。

審核員之逝

兩天後B站的這封內部郵件,算是一次半公開的回應。雖然確認了有員工大年初四去世,其身份也與網傳一致,但對於“加班致死說”,B站持否認態度:“經內部考勤核查,他按照工作計劃正常上下班,工作時間為9:30-18:30,做五休二,在事發前一周內未存在加班等情況”。

這封郵件的截圖很快散播開來,而人們很快就在多個招聘網站上,找到了B站發布的“審核專員”崗位招聘信息,其中明確寫道:此崗有夜班,通宵班,每天工作十二個小時,做一休一,介意勿投。

在其中一則招聘信息中,寫明了“三班”時間:早班為早九點到晚九點,晚班為21點到第二天9點,中班則是中午12點半到凌晨12點半。

圖源:鳳凰網科技
圖源:鳳凰網科技

發稿前,已經無法查到該招聘信息。

就連明確寫在招聘信息里的工作強度都如此之大,縱使B站在內部郵件中強調了逝者“事發前一周內未存在加班等情況”,也難以平息外界的質疑聲。

逝者在去年12月31日發布的朋友圈截圖,也增加着這份質疑的分量。在那條朋友圈中,“暮色木心”分享了企業微信應用內生成的“年終總結”,總結中顯示,其2021年共處理了199240次工作會話,花費了73024分鐘;共參與了21930次工作討論,最晚的一次是11月12日的凌晨4點42分。

對於B站員工猝死事件的關注,也漸漸擴大到了對互聯網“審核崗”的關注。

審核員之逝

人們發現,每時每刻,在北上廣、武漢、成都、長沙等城市,總有審核員在電腦前工作。而且,根據招聘信息的要求來看,現在正在電腦前工作的那位審核員,不僅適應倒班,還“抗壓能力強”。

至於他們的身體健康情況與心理健康情況如何,旁人無從得知。

A

2019年4月初,入職第300天,今日頭條的內容審核員李華已經習慣了大夜班的節奏。

傍晚6點15分,他像往常一樣走出家門,花了一個半小時來到“智慧山”——公司位於天津市西青區新技術產業園智慧山北塔,因此而得名。

不到8點,李華在工位前準備就緒。他打了杯熱水,開啟筆記本,登陸系統,開始工作。

工作系統的界面很簡單,機器每次會自動分配10條評論,每條評論都顯示在一個方框里,最上面是文章的標題,中間是評論內容,下面是三個功能鍵,代表着放出評論,刪除評論和自己可見。

李華不斷地在三個鍵之間點擊。

拉皮條、賣大力丸的評論,他掃一眼,迅速刪掉,遇到敏感內容,就需要多花費點時間,點進去查看文章內容再操作。

凌晨3點,李華有些迷糊,他拿起外套,到辦公室旁邊的休息室小睡了一會兒。休息室有張上下鋪,但沒有枕頭和被子,他裹緊衣服,蜷縮起來。房間的通風很差,李華只眯了一會兒就返回了工位。深夜的辦公室,只有個別區域亮着燈,他要打起精神,在第二天早上8點前,完成1萬條評論的審核。

公司每個月會考核績效,評判標準是審核的數量和質量。同事們為了拿到A,會刻意延長工作時間,以增加審核數量,白班原本的標準是8000條,慢慢地大家都開始審到9000條,李華不太情願,但還是選擇了從眾。

隨着審核條數的增加,他對這份工作的厭惡與日俱增,“我在做審核,我做了什麼?”

這份工作相對優厚的待遇讓他難下辭職決心,2019年時,天津的平均薪資只有3000元出頭,今日頭條的審核員能拿到4600元。

早上8點,完成工作量的李華下班了,他在小區門口買了個 “大餅夾一切”狼吞虎咽。通宵工作后的腸胃非常脆弱,李華一邊大嚼,一邊祈禱今天不要反流嘔吐。即便腸胃一切順利,大腦還處於緊張和亢奮的狀態中,總要輾轉反側很久才能入睡。

幾天之後,李華辭職了。

B

相比於審核行業的急速壯大,李華的離開,連雜音都算不上。

“今日頭條審核團隊擴招2000人,未來目標1萬人,黨員優先。”

“快手急招3000人審核團隊,共青團員和黨員優先。”

2018年4月的大擴招是個分水嶺,從此,內容審核行業開始爆髮式增長。

4月初,快手、火山相繼被整改、約談。4月10日,內涵段子被永久關停。

何充2017年4月加入頭條,負責內涵段子的內容審核工作。彼時頭條的審核團隊還尚未壯大,文章、視頻、圖片、評論,何充都審過。隨着分工的細化,何充被分到了視頻審查組,12秒到5分鐘的短視頻,他每個小時能審至少800條。

內涵段子被關停后,何充仍然留在頭條。

也是在2018年7月22日,央視新聞因低俗動漫內容點名批評B站等網站和App,指出B站一些動漫涉及亂倫等內容。隨後,B站立即下架涉嫌不良內容視頻和啟動複查,並且表示將加強用戶舉報反饋機制,問責相關工作人員。

5天後,B站宣布整改措施,稱將擴增一倍以上網站審核人力,武漢的新審核中心已經建立,並在當月會正式運營。

2019年1月9日,中國網絡視聽節目服務協會發布了《網絡短視頻平台管理規範》(下稱《規範》)和《網絡短視頻內容審核標準細則》(下稱《細則》)。《規範》指出,短視頻平台發布的節目、評論、彈幕等內容,必須先審后發。《細則》詳細列出了二十大類,100小條的禁止內容。

審核範圍擴大、規則細化,對平台而言意味着需要大量增加人手,於是出現了以視頻平台為首的互聯網公司審核崗衛的大擴招。熟練的審核員則成了稀缺資源。

何充覺得,這或許是自己職業生涯的一次機會。

因為大擴招的消息而感到振奮的,還有劉輝。2018年是他加入內容審核崗位的第三年,當年一同入職的同事大多已經離開,他說,入職第一年最難熬,做着最底層的審核工作,簡單機械,看不到方向。

審核員們嚮往內容運營,很多人覺得,相比於審核合規,把控質量更有價值和成就感。

但劉輝逐漸意識到,相比於已經體系成熟的內容運營崗位,內容審核作為新興崗位,開拓餘地可能更大。如今,作為組裡資歷僅次於組長的人,他已經能帶新人了,工資當然也比之前高。

內容審核崗位在畢業於新聞系的李華眼中不值得留戀,不過理工男何充和劉輝對這份工作的價值有自己的看法。他們認為,對內容進行審核的需求不會減弱,提早完成經驗的累積和技能的磨礪,或許能讓自己在未來的競爭中佔據先發優勢。

C

不同於何充和劉輝那樣信心滿滿,方磊常把自己比作互聯網版的富士康員工。

2017年,方磊大學畢業,進入今日頭條做內容審核。他就讀於西南一所二本院校,大三就輾轉於北京的互聯網公司實習。他並不喜歡做內容審核工作,但只收到這份offer,別無選擇。

與他一同入職的應屆畢業生,既有來自普通二本的,也不乏211、985的高材生。後者大多很快離職,“再後來HR看到這種簡歷乾脆就不要了”, 方磊說。

對此,今日頭條方面回應稱,內容審核員的招聘以符合條件為準,學歷方面並沒有關於985、211的排除性限制。至於該崗位是否曾經批量招收985、211畢業生,頭條並未作出回應。

那一年,幾家大公司還沒有大張旗鼓地擴招審核員,方磊已經明顯感知到行業發生的變化,周圍同事來來去去更加頻繁。許多人想過離開這個崗位,最終能轉型的卻是少數。離職之後,很多人還是選擇了另一家公司的審核崗繼續做下去,市場對審核員的需求從沒斷過,換個公司一點都不難。

內容審核的工作節奏很快,但這份工作的意義和價值何在,總是會在方磊稍有鬆弛時浮上腦海。像李華一樣,他常常會產生厭倦感,但當屢刪不絕的色情高利貸、賣槍賣葯、攻擊辱罵信息充斥屏幕時,他又會覺得,自己是被這個社會所需要、所召喚的,“真實的互聯網戾氣太重”。

梁佳美大學畢業就進入了一家二手交易平台做內容審核員,2018年是第六年,她負責清理平台上的各種違法信息。每隔一段時間要去公安部學習,了解最新型的犯罪器具和違禁藥物。梁佳美能熟練地分辨出好幾種不同的毒品,哪怕有些從外表看來,與正常藥品無異。

篩除有害信息,是審核員工作中的重要環節。一位離職審核員中描述過一段經他審核刪掉的視頻:工地上,一個18歲的小孩子,光着身子在看電視,手裡拿了一隻老母雞,“萬一視頻被小孩子看到,學了去怎麼辦,一輩子就毀了”,這位審核員在博客中充滿責任感的寫道。

但工作一年後,方磊感覺情緒越來越壓抑。他並不熱衷社交,但內容審核做久了,他迫切希望與人溝通交流,“做審核,每天都像機器人一樣,身心俱疲”。最後他選擇離職,轉去了一家小公司做內容運營。

內容審核員面臨的更嚴峻問題,是長期接觸有害信息可能會造成心理傷害。

2018年9月,一位曾為Facebook工作的內容審核員把前東家告上了法庭。她負責刪除Facebook 上色情、暴力等有害內容,工作9個月後,患上了PTSD(創傷后應激障礙)。

周婷做過兩年的內容審核工作,她說自己那兩年間經常感到心很累,因為總把注意力放在黑暗、負面的內容,工作就是她的“快樂黑洞”。

問題是,為什麼要在一個毫無快樂的崗位上做兩年?

“謀生”,周婷立即給出了答案。她曾經工作於一個知識付費類平台,在沒有留用機會的內容運營崗位實習了幾個月。打算離開時,公司新設了內容審核崗位。儘管對審核工作很排斥,但得以留在心儀的公司,還是讓周婷慶幸不已。

張強成為審核員是在張一鳴剛剛喊出“一萬審核員”的時候,成為這一萬分之一,他很滿意。各項補貼齊全,還鮮少加班,“隔壁部門新來的審核員,實習期6個月,績效連拿6個A,已經升小組長了。只有你有實力,這家公司不差錢”,談及未來的職業規劃,他如此說道。

2018年10月,頭條傳出了新一輪融資40億美元的消息。

在融資消息傳出前,頭條在天津的分公司就搬到了新辦公室,位於紅橋區的陸家嘴金融廣場。已經投入使用的辦公室位於15層到23層,採用了環形布局,外圍是一整圈落地窗,採光和視野極佳,辦公區還擺着各種綠色植物。

幾年間,頭條天津審核員的數量就從一百多人擴張到了上千人。大廈前台的訪客登記簿上,一半是前來頭條面試的人。在豆瓣的天津租房小組裡,“位於頭條補貼範圍內”也已成為一些房子轉租時的標籤。

內容審核是於博迄今為止最滿意的一份工作。2016年,他畢業於一所大專的電子商務專業,做過電話銷售和物流,還短暫在親戚的超市幫過忙。

2017年年初,於博從一個Java培訓班畢業,這時他發現,行業的紅利期已經過去,工作並不好找。焦慮之時,一則資訊類應用的內容審核員招聘啟事印入眼帘,招聘方是一家外包公司。外包公司招聘內容審核崗位時,要求往往比較寬鬆,大專學歷即可。

起初,於博並沒有抱太大的希望。這份工作與他的專業背景和工作經歷都相去甚遠,但面試時,資訊平台的負責人,並不在乎專業和經歷的匹配。面試更注重考察對時政大事的了解程度。於博從學生時代起就保持着瀏覽資訊的習慣,很順利地通過了面試。

靠着這份工作,於博順利地還上了之前學習Java的貸款費用,他說自己已經工作幾年了,不能再管家裡要錢。

D

相比於審核員們的複雜態度,渴望引入互聯網企業的二線城市對內容審核行業敞開懷抱熱誠歡迎。

天津非常積極地吸引互聯網企業入駐,互聯網企業把分公司設在天津,可以享受稅收、房租等多方面的優惠和補貼。

1988年,天津新技術產業園區正式成立。2009年,更名為濱海高新技術產業開發區。同年,騰訊在天津建立了研發和數據存儲中心,是騰訊繼深圳、北京、上海、成都之後,布局的第五個城市。2011年底,濱海高新區前往中關村招商。1年後,搜狐視頻總部正式落戶該區。這一時期入駐天津的,還有58同城和亞馬遜。

2015年,今日頭條也來到天津,在天津濱海高新技術產業開發區註冊天津字節跳動科技有限公司,註冊資本1600萬美元,設立了項目研發中心、運營中心、客服中心等。

3年後,今日頭條把辦公室搬到了陸家嘴金融中心。在天津人眼中,紅橋區雖然是市內六區,但發展晚,跟其他區比,總是差些段位。如今,紅橋區迎來了字節跳動,這家在薪資待遇層面儼然成為天津互聯網標杆的公司,或許能改善它在天津人心目中的位置。

據《中國企業家》,對於互聯網公司,內容審核部門其實是個很重的成本包袱,但不能不背着。企業將這樣的部門遷至天津等二三線城市,看中的就是當地的優惠政策,可以減輕成本負擔。

對於當地政府而言,能夠吸引有知名度的互聯網企業入駐就是一項政績,即使進駐的只是這些公司的邊緣業務部門。

天津之後,還有西安。比之天津,西安的人力成本更低。這裡還有不少高校,許多大學生會以實習生的身份被吸納到審核工作中,當時每月的收入在2000左右。

武漢作為湖北省省會、擁有優秀大學生資源的中部特大城市,自然也在此列。如今,武漢市已經集齊了字節跳動、快手、騰訊等幾乎所有知名互聯網企業的身影,阿里的華中地區總部更是設置於此。

2018年,B站進入武漢開設分公司,2020年4月,B站還曾宣布大幅擴建武漢分公司,目標擴招至千人。而本次出事的“暮色木心”,正是在1個月後加入B站。

2018年9月,今日頭條還在張一鳴的老家,龍岩,設立了繼北京、天津、濟南、西安、成都之後的第6個內容質量中心。快手則在北京、天津、無錫、武漢、哈爾濱、鹽城建立了自己的審核中心。

據《晚點 LatePost》報道,2021年初字節跳動的審核人員數量已經超過2萬人。

在這一輪內容審核中心的突進中,越來越多城市迎來了互聯網企業。

E

對互聯網內容進行審核的需求萌生已久,2018年是爆發期。

2009年,工信部曾試圖要求在大陸生產和銷售的所有計算機安裝可以過濾互聯網內容的綠壩軟件。該軟件包括兩款分別負責圖像和文字過濾的產品。受到輿論壓力的影響,這項決定最終並沒有實施。

但互聯網內容大規模審核的腳步並沒有停下來。

移動互聯網時代內容數量的爆發,也推動了審核行業的發展。2012年7月,微信公眾號上線,根據微信官方數據,截至2014年7月底,微信公眾帳號總數580萬個,且每日新增1.5萬個。

今日頭條等依靠算法推薦的資訊平台的興起,也讓審核的需求變得更加迫切。

以往的資訊類平台,比如曾經的門戶網站,主要實行編輯負責制。網站上的內容大多經由編輯手動發布,即便有自動抓取功能,對象往往也是有合作關係的媒體,內容安全有保障。但今日頭條採取機器抓取和算法推薦的方式呈現內容,不合規的內容更容易成為漏網之魚。

與此同時,不合規內容帶來的風險也越來越高。2014年4月,新浪網因為讀書頻道和視頻節目涉及淫穢色情內容,被吊銷了《互聯網出版許可證》和《信息網絡傳播視聽節目許可證》,百度也曾因為移動端小說頻道涉黃被處罰。去年12月,小紅書因為“未成年人信息審核漏放”問題,被上海市黃浦區文化和旅遊局罰款30萬元。

很多黃色信息背後,往往是有組織的黑產團伙,流量聚集的地方往往是重災區。朱浩齊畢業於浙江大學計算機系,2008年進入網易工作,最初負責一款社區產品的維護和開發。為了應對社區內常常出現色情信息,朱浩齊和幾個同事被編入了專門的安全小組,專門防範垃圾信息。

他的團隊經常和色情黑產團體展開攻防戰,一天晚上,社區首頁突然出現大量含有色情服務信息的帖子。最初是文本,敏感詞被機器收錄后並封禁后,開始出現圖片中夾帶涉黃信息的情況,於是,技術團隊在後台不斷調整屏蔽策略,直到堵死對方所有的路徑。

從2014年到2016年,是朱浩齊和團隊最密集加班的時間段。其實應用於審核的人工智能技術早在2012年就取得了突破,這一年,多倫多大學計算科學系教授Geoffrey E. Hinton 帶領着自己的學生設計出深度學習模型AlexNet。在內容量爆發和監管收緊的背景下,這項技術在2014年開始大規模工業化。

作為技術人員,朱浩齊通過內容審核,看到了內容安全領域蘊含的機遇,如今,他在網易雲易盾擔任CTO。2001年,網易成立審核中心時,只負責網易旗下郵件、博客、相冊等產品的內容把控。等到2016年,網易雲推出可涵蓋內容過濾服務的雲安全品牌“易盾”,很快就迎來了不少企業用戶。

“2C的市場也差不多到頭了,進軍B端市場是大勢所趨,內容安全是很重要的一塊。”朱浩齊如是說。

范凱在內容審核崗位上工作了四年,第一年結束的時候,他就想過離職,當時他在一家知名互聯網公司拿着稅前5000的工資,工作生活都很穩定。穩定卻沒有成就感,在他看來,平台運營的好,跟審核員沒什麼關係,一旦出了問題,他們難辭其咎。

採訪中,方磊聊起了內容審核圈曾經的大事件,新浪微博有個審核員接受了媒體的採訪,稿子詳細描寫了微博的審核流程,招致了很多網友的謾罵,事件以當事審核員被開除而收場。

范凱試圖在公司內部轉成內容運營崗,但公司太大了,審核和運營分屬不同的體系,轉崗幾乎不可能。他又試圖給其他公司投簡歷,審核崗位的需求一直在增長,跳槽不難,轉崗卻並不容易,面試了幾家公司的運營崗,都被委婉地告知,現階段他的能力還不足。

接連碰壁中,范凱有時也會自嘲,簡歷和能力平平如自己,如果不是內容審核這個崗位,或許無法進入互聯網領域的大公司。最終,他選擇放棄大公司,轉向一家中型公司,雖然職位仍然是內容審核,但工作內容已然開始有運營的成分。

對於內容審核員們來說,這是份先經歷幻滅,又能看到些許希望的工作。在這支龐大的隊伍中,大部分人並沒有學歷和專業優勢,內容審核是他們進入互聯網大廠的捷徑。但枯燥、單調,甚至有害身心的工作狀態,又會迅速催生出質疑和撤退的情緒。

沈鵬煒從事內容審核相關工作已經八年。最初,他在網易從事郵箱反垃圾的工作,根據代碼里的特徵分析各類郵件,維護特徵庫,以便系統能更好地識別垃圾郵件。後來被調到網易雲易盾審核中心,任審核總監一職,管理着數百人的大團隊。

沈鵬煒覺得,儘管這份工作在初期比較單調,但常年積累下來,也一定會有收穫。他希望未來審核工作也能建立起對應的資格制度,給從業者帶來更多歸屬感。

有些審核員等不了這麼久。畢業於一所重點本科院校的王超,只做了半年的內容審核員就選擇了離職,聊起這份工作,他說,“實在沒什麼好說的”。

(應採訪對象要求,文中李華、何充、方磊、宋婷、於博、范凱、王超為化名)

(0)
上一篇 2022-02-08 19:19
下一篇 2022-02-08 19:56

相关推荐