福彩3d试机号查询 江西福彩 中国福彩3d 福彩3d预测 河南福彩中心 福彩三d 山东福彩中心 福彩35选7开奖结果 福彩777 福彩3d字谜 福彩双色球走势图2 福彩3d走势图 山西福彩 福彩3d开奖结果今天 黑龙江福彩
我要出售
搜索

揭秘內容審查員:高壓常伴噩夢相隨,有人突然崩潰,有人試圖自殺

9妹 /2019年09月04日 09:44/ 分類:熱點資訊/閱讀:1074
內容審查員不是一個新鮮的話題。作為一個因科技互聯網而興起的職業,內容審查員是互聯網的最后一堵墻,保護互聯網的安全,同時也深受其害。《華盛頓郵報》近期有一篇特稿,將視線轉向菲律賓首都馬尼拉——硅谷的“...
內容審查員不是一個新鮮的話題。

作為一個因科技互聯網而興起的職業,內容審查員是互聯網的最后一堵墻,保護互聯網的安全,同時也深受其害。
 
《華盛頓郵報》近期有一篇特稿,將視線轉向菲律賓首都馬尼拉——硅谷的“月球背面”。
 
在馬尼拉,年輕人以“進入”谷歌、Facebook和Twitter為榮,哪怕是外包的內容審查員工。因為殖民歷史和早期呼叫中心的開發,菲律賓有天然的語言和硬件優勢,但這里的年輕人只是人力便宜的外包員工,無法享受和美國同行同等的工資待遇和心理保障措施。
 
這些內容審查員究竟經歷了什么?背后有哪些不為人知的故事?我們編譯了這篇特稿,看完你可能會對原本熟悉的互聯網,有一些不曾了解的新發現。


辭去內容審查員工作已經一年之久,Lester每周都會去教堂祈禱,祈禱有人可以刪除記憶里那些審查過的可怕圖像。 


一年前,亞洲的流量中心馬尼拉,Lester是Twitter的內容審查員——合同工身份,他穿梭在商廈高樓,每天工作9小時,評估社交網絡照片的違規之處。而在Twitter之前,Lester在YouTube任職,做著同樣的審核工作。“小孩的生殖器,到底是被偶然碰到還是有人故意為之;砍向脖子的利刃,是真實的謀殺還是影視片段”,這些都是Lester在Twitter的工作內容,除了這些,他甚至需要判斷,哪些內容可以留在網上。
 
負面作用隨之而來,白天審核的圖片像夢魘一樣糾纏著Lester,即使是離職一年后,再次踏進高樓,那些反復查看過的自殺片段會再次閃現,推著他走到大樓邊緣,一躍而下。入夜后,Lester在谷歌里輸入“獸交”和“亂倫”,這是他以前從沒看過的東西,但現在卻大受吸引,他感到羞愧,為自己不齒。離職后的這一年,Lester每周去一次教堂,和教會的兄弟一起,請求上帝擦去他記憶里的圖像。
 
“我很清楚,這不正常,但現在,一切都常態化了”,33歲的Lester告訴《華盛頓郵報》。受到保密協議的約束,他始終不肯透露全名。
 
在互聯網安全保衛的戰場上,還有很多像Lester一樣的人,他們沖在前線,卷入這場“無限戰爭”。從地圖上看,菲律賓和硅谷隔著幾萬公里,但依然手無寸鐵,遭到科技巨頭的盤剝。
 
過去十幾年,社交媒體的快速發展,為全世界創造了幾十萬個工作崗位,這些人被雇傭來審查、刪除暴力和冒犯的帖子。今年3月,新西蘭的暴力槍擊事件在Facebook上直播,并遭到大范圍傳播,俄羅斯在社交媒體上散布的假新聞深刻影響了2016年的美國總統大選……平臺上的內容屢屢出錯后,Lester們成為巨頭們重拾名聲的依靠。但即便如此,硅谷科技公司卻和這些內容審查員維持著距離,托付第三方大型外包公司,以合同工的形式和他們簽約。
 
菲律賓的審查員們說,公司不曾提供足夠的支持來解決審查工作導致的心理后遺癥,因為保密協議的約束,審查員無法和朋友傾訴工作的傷害,也無法從每天瀏覽過的圖片影像中走出來,而準確率的壓力,讓他們片刻不得休息。




 
科技公司們承認,適當放寬對審查員的要求非常重要。2015年的工作協議中,對兒童虐待相關內容的審查員放寬了要求,比如保密和休息的權限,而在此之前,大量員工提及自己因為這些內容感到困擾。
 
長久以來,科技硬件公司早已形成了完整的外包機制,將電腦和手機等產品的零件生產線放到海外。外包往往意味著高壓的工作環境,甚至伴隨著致命的傷害。
 
而軟件公司,近些年逐漸找到了廉價可替代的勞動力,他們躲在幕后,做著重復而辛苦的工作,比如保證人工智能的準確應答,讓自動駕駛系統識別出人行道和其它物體,以及,確保性暴力等違規內容,不會在社交媒體上出現。
 
在菲律賓,內容審查員的脆弱性已經擺在眼前,但這里不過是全球眾多外包中心的一個縮影,而內容審查業務,早就成了菲律賓十余年呼叫中心行業發展的結果。全球主要審查中心,如印度和美國,通常只審查本國用戶的內容,而在菲律賓,審查員每天需要審查全球各地用戶發出的圖片、視頻和文字帖,涉及數十種從沒學過的外語,還手握著內容去留的生殺大權。此時,理解他國的語言和文化,成了審查員們的沉重負擔。
 
《華盛頓郵報》采訪了馬尼拉的14名現任和前任審查員,他們不約而同提到,內容審查會讓人長時間遭受噩夢、偏執和強迫性窮思竭慮的困擾,有人看到同事在工位前前突然崩潰,還有人因為心理壓力試圖自殺。
 
有審查員會稱,自己是互聯網上的無聲戰士,保護著美國人不受到社會黑暗的影響,但因為自覺承擔著維持互聯網安全的責任,常常下班后也去搜索和舉報有害內容,很容易感覺精神上已經燈枯油盡。
 
一位馬尼拉的Twitter內容審查員告訴記者:“每一次換班我都感覺精疲力竭,難以思考。”偶爾在夢中,他會看到自殺式炸彈襲擊或車禍的場景,腦子里不斷閃現工作時看到的畫面,“要做內容審查員,你必須內心強大,還要充分了解自己”。
 
在菲律賓,Facebook、Instagram(Facebook子公司)、YouTube(谷歌子公司)、Twitter、Periscope(Twitter旗下直播平臺)等平臺的審查員們,都受雇于第三方機構Accenture和Cognizant,限于雇主和平臺方的保密性規定,他們對外只能保持匿名,最多透漏名。
 
在采訪中,所有平臺都表示,他們在匆忙中創造了許多新的工作崗位,但他們承認,平臺需要為審查員提供合適的心理干預,改善工作環境,這項工作還在進行中。與此同時,大眾對平臺及時移除不宜內容的能力,抱有極大期待。就在去年,平臺強調,為了解決內容審查員的心理問題,他們做出了種種努力。
 
Facebook的顧問曾坦言,的確有審查員因為這項工作而換上PTSD(創傷后應激性障礙),而這項心理疾病,或將直接導致患者的自殺行為。
 
事實上,在硅谷和遙遠的東南亞,存在著巨大的規則不對等。《華盛頓郵報》采訪到都柏林的一位內容審查員,以及多位美國內容審查員,盡管他們和馬尼拉同行有相同的遭遇,但在美國,因為近幾年的呼吁,審查員的工資和福利都有了很大提高,但在菲律賓,一切都是天差地別。
 
美國人會將內容審查工作看作是進入大公司,開啟職業生涯的墊腳石,但在菲律賓,雖然內容審查就像一個死胡同,卻也是他能得到的最好的工作了。他們戰戰兢兢,生怕透露真實姓名,破壞了公司的保密協定。
 
對于當地大學生而言,內容審查也是一份很有吸引力的工作,工資尚可,有機會進入中產階級,認為自己可以輕松離開,不受到任何負面影響。
 
盡管目前在全球從事內容審查的員工數量已經上萬,但始終沒有一份正式的研究,披露這些可怕的圖片會對審查員產生怎樣的影響。不少菲律賓人坦誠道,比起客服工作,內容審查輕松得多。但菲律賓大學社會工作和社區發展學院院長Sylvia Estrada-Claudio認為,內容審查恰恰非常不一樣,審查的壓力來自于經年累月暴露在各種傷害和暴力圖片的環境,圖片里既有人類、也有動物。Sylvia很擔心年輕一輩遭受這些內容的影響,“長期接觸這些潛在危害,可能誘發心理危機”。


 
在馬尼拉,美國大公司的招牌鋪滿了天際線,包括Citigroup、Accenture、Trump Tower等等大名鼎鼎的公司,以及其它名氣略遜于此的公司,它們給菲律賓發達的外包經濟蓋了章。這些摩天樓里,有數不清呼叫中心員工,在過去近20年,他們完全成了發達國家英語用戶的后勤中心。
 
如今,除了內容審查,菲律賓的外包工人們還會幫美國電信和健康保險公司提供客服呼叫服務,幫eBay清除網站上的非法商品、刪除谷歌地圖上的重復列表、為自動駕駛汽車的錄像做標記。
 
Lester曾在馬尼拉一所大學學習電子工程,畢業后進入Accenture的呼叫中心,一干就是近十年。2017年,Lester從內部轉崗,開始學習某搜索引擎的內容審核,很快又開始學習YouTube的審核規則。
 
起初,Lester以為,比起在呼叫中心應付那些暴躁的用戶,互聯網內容審查工作的壓力小很多,而且,他很喜歡Accenture給谷歌外包員工提供的免費午餐。但很快他便發現,YouTube的規定讓人困惑,而因為審查產生心理問題時,他也無法獲得公司提供的任何咨詢服務。
 
幾個月后,因為聽說Twitter有更好的心理咨詢,Lester再次轉崗。新工作提供每月480美元的工資,尚且足夠。Lester和奶奶一起住在距離菲律賓2小時距離的郊區Alabang,這里小到只有一間臥室,Twitter的收入足以讓他養得起奶奶。




                                                                                                          Lester的家
 
每天早上,他在七道高速公路附近的加油站坐上一輛吉普小出租,這是二戰之后設計的一種花哨的巴士,在菲律賓成為美國殖民地之后,迅速流行開來。就是在這輛車上,Lester開始了這一天的通勤。
 
這條價值20美分的通勤線上,Lester會在沿途看到大量工廠和廢棄的度假村,直到遙遙望見馬尼拉市區里閃耀著光芒的高樓。為了在通勤路上更加充實,Lester有時會在Facebook上發表一些《圣經》的勵志選段,和朋友、同事們分享。但多數時候,他只能在路上抓緊小睡一會。
 
到了公司,Lester把手機和其它值錢的物品鎖進儲物柜,然后去見經理,一起開會。這時,經理會復盤上一班同事的數據,包括每個人的審核數量和準確率,以及需要監控的熱門話題和突發新聞,比如,發生在奧蘭多Pulse夜店的槍擊案。
 
回后,Lester回到工位,面前是巨大的監視屏,新的帖子不斷在屏幕前滾動。在Lester的序列里,監視器會即時監控他的審查情況,如果需要去洗手間,系統便會自動退出。在Twitter,一個內容審查員一天需要審查約1000條帖子,包括單獨的推文、回復和信息。
 
Lester透露,不論屏幕上是發生在伊斯蘭國家的謀殺,小孩被迫和動物發生關系,還是那些反特朗普的長文,對他而言,是無法決定接下來內容走向的,他不能將圖片模糊化或最小化處理,甚至不能切換屏幕來喘口氣,一旦切換,他便下線了。
 
當問及每天8小時工作時間中會看到的暴力圖片數量時,Lester表示無法估計,“太多了”。印象最深刻的視頻是發生在非洲的槍殺案,一群人把一個男人拽進森林,用一把大刀不斷抽打他的脖子,直到獻血噴濺滿攝像頭。他算了算,每月可能會看10條謀殺視頻,而自殺相關的內容,他已經審核了1000多條,其中多是照片和用戶寫的求救貼,也有他們的自殺計劃。
 
沒有人可以扭頭走開。
 
前Periscope的視頻審查員Jerome認為,審查員就像是911的接線員,站在一切事件的最前線。負責審查本國內容的印尼審查員說,每一次知道因為自己撤下一條有ISIS旗幟的帖子而阻止了極端活動時,他都會感覺非常欣慰。
 
加入Twitter之后不久,Lester發現,這份工作開始有了負面影響。那些20多歲時努力掙脫的感覺再次撲面而來——他重新有了自殺的念頭。Lester說,他無法支付心理治療的費用,也不曾找過咨詢。與此同時,他發現,平時看過的那些黃色圖片會開始引起自己的注意,為此,他既羞愧,又非常不安。
 
最終,Lester沒有嘗試自殺,但一個前Facebook和Instagram的審查員試過了。他在遭遇家庭問題的時候找到了內容審查的工作,而日復一日的審查,加重了心理問題。
 
2015年,他辭掉了工作,盡管他才入職3個月,之后便在一家汽車旅館里實施了自殺,模擬的正是一年前他審查過的內容,好在,朋友打電話把他勸了下來。事后說起,他想,“如果還做內容審查,我寧愿現在就死掉”。







2017年秋,此時正值Facebook、谷歌和Twitter因涉嫌幫助俄羅斯干預大選而遭受國會指責的前夜,當時,Facebook創始人扎克伯格宣布,公司將再聘請10000名內容審查員,負責站內安全,一年之內,Facebook的內容審查規模便達到20000名。一個月后,YouTube和谷歌也承諾,將在2018年底前招聘10000名審查員。相對規模較小的Twitter,剛剛開始擴大內容審查的規模,在2018年時將審查員工數量擴大至1500人。
 
加州大學洛杉磯分校的副教授,《幕后:社交媒體陰影里的內容審查員(Behind the Screen: Content Moderation in the Shadows of Social Media)》的作者Sarah T. Roberts說,緊隨公司聲明的,是遠在馬尼拉的后勤公司的招聘大狂歡,他們以“內容審查員”、“數據分析師”、“內容質量編輯”為由,大量招募新員工
 
據一位在美國和菲律賓工作的行業人士透露,盡管不少科技平臺早已在馬尼拉設立公司,但在俄羅斯事件聽證會之后,菲律賓的內容審查員工出現了百倍增長。
 
對菲律賓來說,這里設立內容審查團隊有著得天獨厚的優勢——作為過去的美國殖民地,這里的民眾可以流暢使用英語,作為呼叫中心,菲律賓也已經有近20年的歷史。
 
2012年,Facebook通過第三方Accenture在菲律賓設立了內容審查辦公室,在此之前,這里已經建立了大型的呼叫中心。而Twitter在2015年時通過Cognizant,在菲律賓成立了第一個內容審查站。
 
2004年,前谷歌副總法律顧問Nicole Wond參與了組建公司早期的策略執行團隊,據她所說,由于一些法律和文化理解上的微妙差異,她早期并不確定是否要啟用外包團隊,因為,微妙的差異很有可能在缺乏強監管的情況下,造成海外外包員工的理解差異,而錯誤的判斷則會導致錯誤的決策。但隨著谷歌的不斷擴大,公司迫切需要24小時響應的多語言內容審查服務。



 
在美國和歐洲,內容審查員需要對涉及自己母語的內容進行初審,但在只說塔加拉族語和英語的菲律賓,審查員們需要審查數10種語言的內容。如果有會相關語言的同事在場,審查員們會上前請教,但多數時候,他們會使用谷歌翻譯和Urban辭典,而這些工具,常常只會加重他們的困擾,造成更大的壓力。
 
在某些國家,比如德國、澳大利亞、法國和土耳其等有相關規定,平臺上的內容需要承擔相關的刑事責任,因此在這些國家,內容審查員非常重要。但在美國,規定寬松得多。但近兩年,美國民眾和政府對相關平臺不斷施壓,要求他們及時清除互聯網毒瘤,這在客觀上再次造成了審查員規模的快速擴大。
 
在Facebook,其審查公司遍布全球20個國家,其中包括拉脫維亞和肯尼亞等小國,據透露,菲律賓和印度是平臺最大的海外審查站。相較而言,Twitter的外部審查員分布于8個國家,而YouTube對此問題則表示不予置評。
 
Twitter服務部門副總裁Donald Hicks曾在采訪中透露,審查工作的高度情緒敏感性要求員工適當休息,也需要有心理支持,但同時,這項工作又需要達到一定的指標,二者很難平衡。2018年,Donald加入Twitter,負責對審查工作進行全面改革,他把呼叫中心機械化的工作環境改善得更加以人為本,他認為,“我們不希望公司建造出的是一個大型農場”。
 
2015年,Facebook、谷歌、Twitter等多家平臺一起,成立了行業聯盟Technology Coalition,出臺了針對兒童虐待的行業審查準則,在當時,兒童問題得到行業的高度重視,也是律法規定的唯一一個必須撤銷的領域。
 
據業內人士說,這項規定是科技平臺承認審查工作導致心理負擔的重要依據,也是科技公司可以依靠的唯一行業標準。協會要求科技公司成立“恢復項目(resilience program)”,讓員工在看到有害內容時可以自由退出,有需要的時候可以休息,能向朋友傾訴工作的困難。同時,規定也建議員工可以每小時都能換換工作,喘口氣,隨時隨地去進行心理咨詢。
 
因為兒童虐待等內容而飽受困擾的員工卻表示,相關規定并沒有在實際工作中得到執行,他們甚至都不知道有這些建議的存在。
 
一些菲律賓審查員提到,自己從來沒有在工作中找過心理咨詢,另一些人則表示,他們曾經去咨詢過,一月一次,或是半年一次。相較之下,美國的內容審查員可以每周咨詢,隨時預約時間。
 
和所有審查員一樣,Lester在看到那些令人不安的內容時,完全無法跳出,因為軟件上的信息流會不斷滾動,審查員們永遠不會知道自己接下來會看到什么。他們唯一能做的,是申請調換一個組,看看其它的,同樣讓人不舒服的內容。
 
所有平臺都不承認公司有每日的審查數量目標,但審查員們都表示,由于換班時需要做數據復盤,他們依然面臨著嚴重的數量和準確度的壓力,以至于不敢有片刻松懈,這種壓力無異于直接的KPI。在科技公司一邊,他們會定期檢查審查員的工作,以確保他們的工作都在規定內進行,而審查準確率,則要求達到95%及以上。
 
面臨行業里最嚴重審查問題的Facebook,近幾年讓外界看到,平臺做了大量努力以改善審查員的工作環境,比如停用KPI,提高美國審查員的薪資,招募心理醫生,在全球范圍內推進“恢復力項目”。
 
Facebook表示,公司計劃推出無限制的單人心理咨詢服務,全球員工可以在任何時間請求咨詢,離職員工也可以申請咨詢服務。與此同時,公司推出了更多元化的指標來評價員工的工作成績,希望減少因準確率指標帶來的壓力。
 
YouTube方面則表示,全球審查員都可以“定期”進行咨詢,一天的審查時間不得超過5小時。但就此問題,官方并不愿意透露更多細節。
 
Twitter現在已經提供了每日心理咨詢,敦促第三方公司對離職員工提供更多關心。Hicks透露,不論是哪里的Twitter員工,只要對審查內容感到不適,可以隨時交班,公司會支付全額薪水。
 
不過,Facebook和Twitter依然保留保密協定的使用,兩大公司聲稱,這是出于保護用戶隱私的目的,另一方面,由于審查員此前做出的種種撤銷決定,已經遭受了大量攻擊,這一保密協定可以在一定程度上保護審查員。
 
Accenture的代表Rachel Frey說:“我們和客戶一起,共同保護互聯網安全,而我們馬尼拉員工和他們做出的努力,讓我們非常驕傲。我們有一支先進的團隊,提供有前瞻性服務,有即時的咨詢,審核不間斷,程序標準,有良好的支持性辦公環境。”然而,對于“即時咨詢”的細節,對方拒絕向外透露。
 
另一家外包公司Cognizant在接受郵件采訪時也表示,“我們有全方位的保障服務,包括7X24小時電話支援,線下咨詢,定期請來線上咨詢。鑒于這項新興工作一直處于變化之中,我們會繼續和先進的人力資源團隊、福利咨詢師、合作方一起,更好地做好福利措施”。
 
馬里蘭大學副教授、《線上國度:呼叫中心——菲律賓的后殖民時代困境(A Nation on the Center: Call Centers as Postcolonial Predicaments in the Philippines)》作者Jan Padios認為,盡管呼叫中心已經是菲律賓的成熟產業,但直到最近,員工才開始成立工會,共同努力。
 
在舊金山Workplace Wellness Project從事社交媒體公司咨詢服務的心理學家Stefania Pifer認為,呼叫中心的工作意味著準確率、監控標準、工業化的流程,這一工作模式盡管已經在IT外包行業實行數年,但依然不能忽視它的有害性,這項工作要求及時休息、心理支援,還需要有時間去慢慢消化那些讓人痛苦的內容。“這是用舊模式在套新工作,很有可能造成一個不夠道德的工作環境”。
 
                                                                                                                                       線上國度






硅谷老板常常會談起自動化勞動力,似乎在菲律賓的呼叫中心行業,科技取代人類已經成了既定事實。和呼叫中心員工一樣,內容審查員也認為,自己將會成為科技的犧牲品。
 
Estrada-Claudia則認為,對自動化的期許,不過是科技公司對內容審查員們權利的剝奪。“行業大佬總說機器會取代人類,審查員們很快就會失去工作,如此說來,你哪里有力氣去抗爭,要求更多權利?
 
不過,大公司也承認,他們無法用機器完全取代人類。扎克伯格在今年4月接受《華盛頓郵報〉采訪時也提到,只有人工才能基于內容做出撤銷或保留的決定。
 
那么,科技公司或許創造了一個永恒的,但永遠存在于外包公司的隱藏工種,創傷依然存在,無人看到,但如何解決?幾乎沒有答案。
 
另一方面,專家們卻認為,面對海量的內容問題,科技公司永遠不可能找到足夠多的審查員。
 
不過,對一部分菲律賓工人而言,自動化的時代至少不會來得太快。
 
如今,Lester依然在呼叫公司工作,主要銷售人身保險,他常常勸誡過去的同事們盡快離職。沒事的時候,Lester會和朋友去商場里逛逛,但他盡量避免走進摩天樓里,雖然,這在馬尼拉是不太可能的事情。
 
Lester說,內容審查這項工作,就應該讓機器去做。“別人總以為,就因為我們是菲律賓人,我們天性樂觀,可以承擔一切。但是,那些看過的東西,永遠留在了腦子里……他們要,也應該要把內容審查工作交給機器。”




                                                                                                                   記錄一天工作的Lester

更多精彩資訊請關注:96新媒體


更多閱讀

9妹專欄

NINE SISTERS COLUMN
2014-2017 96新媒體 All right reserved. 版權所有 皖ICP備13019945號-3
辽宁福彩
福彩3d试机号查询 江西福彩 中国福彩3d 福彩3d预测 河南福彩中心 福彩三d 山东福彩中心 福彩35选7开奖结果 福彩777 福彩3d字谜 福彩双色球走势图2 福彩3d走势图 山西福彩 福彩3d开奖结果今天 黑龙江福彩
辽宁35选7开奖号码是多少 双色球最大复式182 波克捕鱼达人千炮官网 山西泳坛夺金最近5oo期 快乐十分倍投必赢技巧 猎鱼达人工作室交流群微信 宁夏11选5前三直走势图 非洲开个衣服店赚钱吗 影视剧电视台怎么赚钱 游戏什么能赚钱 北京赛车app 淘宝快3开奖 齐心文具股票走势 手机奔驰宝马赢钱技巧 全民玩捕鱼官方 苹果阅读自动刷视频赚钱的软件哪个好