随着接触互联网的人数越来越多，网上的内容也呈井喷之势，质量却愈发良莠不齐。全球多个国家和地区都出台了相关政策，要求网络内容提供商对平台上的内容负责，必须审核和删除违反当地法律的信息，比如暴力、儿童色情和恐怖主义内容。
作为当今世界上最大的几家互联网内容提供商，Facebook、推特、谷歌以及旗下的 YouTube 都面临着巨大的内容审核压力。他们的处理办法非常相似：招聘小部分全职内容审核员，将剩下大部分工作承包给第三方公司，由合同工完成。
知名外包公司埃森哲（Accenture）和高知特（Cognizant）都有类似的业务，其中埃森哲在美国德克萨斯州的奥斯汀市运营着谷歌最大的内容审核中心，里面的内容审核员全天候工作，负责清理 YouTube 上的不良信息。
当然，从 YouTube 上删除令人不安的内容不算完，还要从谷歌搜索等服务中删除它们。这需要公司内部多个团队协作，因此在谷歌总部还有一些全职员工从事类似的工作。
在大多数情况下，这些内容都由用户或执法机构举报，通常包含暴力、色情、虐待儿童和恐怖主义。
听起来不是什么美差，但比起程序员，似乎没什么技术门槛。如果谷歌给你 9 万美元的年薪，附加医疗福利和股票奖励，你愿意干吗？
外媒 The Verge 记者 Casey Newton 对这些员工的工作内容和环境进行了深入调查。经过 5 个多月的资料收集，他采访了 18 名现任和前任员工，最终围绕两个代表性人物 Peter 和 Daisy 撰写了一篇长达 5700 余字的故事性报道，为外界刻画出了谷歌内容审核员令人堪忧的工作状态，以及这份工作可能对人造成的持续一生的影响。
以下是对 Newton 报道的整理和编译，有删减和重新排版。
“谷歌里最肮脏的工作”
Peter（化名）是奥斯汀办公室的一名内容审查员，每天的工作内容就是审核被放到队列中的视频。他的同事有数百人。
YouTube 把他们分配到不同的队列中，比如版权队列、仇恨和骚扰队列以及成人色情队列等等，称这样可以让审查员更好地掌握特定政策和内容的评判标准。
Peter 被分配到了暴力极端主义队列中（Violent Extremism）。顾名思义，队列中充斥着极端暴力的视频，几乎每天都有斩首、枪杀和虐待的场面，可以算是“谷歌里最肮脏的工作“之一。
在过去的一年里，Peter 看到了他的同事在工作时因巨大精神压力而崩溃，不得不休了两个月的无薪假期。另一名同事同样因为工作的压力罹患焦虑和抑郁，一度厌食到急性维生素缺乏而必须住院治疗。
图 | 对极端暴力的定义（来源：The Verge）
Peter 的家人知晓他的工作内容，也看出了他的变化，因此不断要求他辞职。但 Peter 担心，以自己的能力可能再找不到这么高薪水的工作：18.5 美元 / 小时，年薪约合 3.7 万美元。（编者注：奥斯汀全职员工的最低薪水是 15 美元 / 小时）
其他员工有的是新移民，曾干过保安和送货司机之类的工作，然后从朋友那里听说了这份工作。有的则寄希望于用这份工作申请美国公民——一个在特朗普政府治下变得越来越难以实现的梦想。他们担心对媒体或上级反映这种情况，会让他们的移民之路更加坎坷，甚至可能丢掉饭碗。
“我们刚来到美国时，没人认可我们的大学学历，”在奥斯汀内容审核小组工作近两年的 Michael 表示，“我们必须开始工作，开始赚钱，任何工作都可以。”
能加入像谷歌这样的科技巨头（虽然本质上是埃森哲，但两家公司对外模糊了界线，而且邮箱后缀也是 google.com），是他们做梦也无法想象的。这些人最初都很感激谷歌能给他们机会。
图 | 接受采访的 Daisy（来源：The Verge）
母语是法语的 Daisy 被委以重任，负责法国地区的内容删除请求，按照法律、执法机构，以及谷歌政策和条款的要求审查链接内容，做出保留还是删除的决定。按计划发展下去，她将成为谷歌法国恐怖主义内容审核项目的主管，年薪超过 9 万美元。
让她意想不到的是，暴力的内容越来越多。
2015 年 11 月的巴黎恐袭和 2016 年 7 月的尼斯恐袭，让 Daisy 的工作压力越来越大，而且是身体和精神上的双重压力。
大量恐袭现场的视频充斥在队列之中，有的在剧院，有的在大街上。惨剧发生之后的很长一段时间里，她每天都会看到很多遇难者的视频。
面对积压如山的视频，Daisy 的经理希望她可以更快地工作。她也尝试这样做了，但不可避免地面临更长的工作时间，承受更大的生理和心理压力。
“每天看到的就是队列中的数字不断增长，”她表示，“渐渐的，我的大脑似乎不再正常工作了，处理速度放慢了。”
“我算是幸运的”
恐袭视频已经足够令人不安，但更让 Daisy 难受的是谷歌招聘广告上提到的“儿童性虐待图片（CSAI）”。她审核这类内容的时间远超岗位描述所说的“每周 1-2 个小时”。
鉴于查看 CSAI 内容是违法的，谷歌为审核员安排了一个名为 “作战室” 的特殊房间，供她在同事无法看到的情况下审核相关内容。
最初，谷歌设立了轮换制度。Daisy 会在 CSAI 上工作大约三周，然后回归日常工作六周，循环往复。然而长期的人手短缺和高流动性让这项制度难以为继，她不得不长时间审核 CSAI 内容，就像是日常工作一样。
工作近一年后，Daisy 的经理对她说：“你处理队列任务的速度不够快，我们需要你提高生产力。”
她被激怒了，“你究竟要我怎样提高生产力？我是人，不是机器。每天看到儿童被强奸，人们被斩首，我的情感承受着巨大打击。”
和 Peter 一样，Daisy 身边的人也意识到了她的变化。她每时每刻都感到极其疲倦，情绪会出现剧烈波动，开始说梦话，做噩梦，在睡梦中突然尖叫，甚至突然的肢体接触都会让她联想到是不是有人要害她。
“好像所有人性中的恶都潮水般向你涌来，而你无处躲避，然后还有人（经理）不断告诉你，‘你必须继续工作，面对它们。’”
Daisy 随后申请了带薪休病假，为自己过去一年的遭遇寻求心理疏导——她的一个同事就是这样做的。她当时认为，自己最多只需要 1 个月就能重新开始工作。
根据 Daisy 的状态和描述，心理医生对她的诊断是创伤后应激障碍（PTSD）和慢性焦虑，必须服用抗抑郁药物。
治疗师还建议她养一条狗，训练它成为一只情感支持动物，在她出现恐慌等症状的时候起到提醒和缓解的作用。治疗犬还会陪着 Daisy 去儿童医院跟小孩接触，恢复她和小孩相处的能力——她有时看到小孩会联想到视频中的虐待场景，出现焦虑和恐慌的症状。
作为康复治疗的一部分， Daisy 的思维也得到了矫正。治疗师告诉她不要因为效率低而怪罪自己，因为“这不是你的问题，是他们（谷歌）的问题，他们要对此负责。他们创造了这份工作，就应该投入足够的资源。这当然很困难，但至少要尽可能地减少这种负面影响。”
六个月之后，Daisy 才重新回到谷歌，但情况并没有多大改观，工作的性质，经理的态度和自己的感受都没有什么变化。
最终她选择了离开谷歌，继续读研。现在的她是一家智库的政策研究员，关注儿童隐私、儿童剥削和内容审查。
“我希望过去的经历能够激发我改变未来的斗志，”Daisy 强调，“我算是幸运的了。”相比埃森哲的 Peter 和 Michael，谷歌正式员工 Daisy 的确算是幸运的。
只不过她的境遇也没有多好，六个月的带薪病假听起来很人性化，但如果没有内容审查工作造成的精神创伤，她又怎么会去休病假呢？
知之甚少
自 2017 年以来，Facebook 和谷歌等公司纷纷加大平台上的内容审核力度。在全球范围内，仅谷歌旗下的 YouTube 就有超过 1 万名内容审核员（承包商 + 全职）。
在过去的一年里，谷歌从博客，图片和云端硬盘三项服务中删除的极端暴力内容超过了 16 万例，平均每天 438 例。但无论是员工、公司，还是学术界，对长期暴露在令人不适的内容中可能对人类造成的长期影响都知之甚少。
很多人一开始都抱着跟 Daisy 类似的心态，这工作有高额的薪水，全面的福利，偶尔看看令人不适的图片和视频，最差能差到哪里去？
在特定情况下，这种心态真的奏效了。
一个芬兰语内容审核员表示，自己的工作太无聊了，“有近两个月的时间每天无所事事，就是上上网，看看视频，删除一些不良评论”。她最后因为无聊辞职了。
也有印度审查员表示，“我和同事都觉得这是一个轻松的差事，一个月还能赚 850 美元，没什么可抱怨的。我们可以在健康时间玩各种游戏，非常开心。”
显然，不同审查员的经历天差地别，原因在于他们负责的地区、队列和团队氛围差异巨大。
另外也有很多人，包括一些科技公司的高管，倾向于把这件事情看作是招聘问题：观看同样的暴力和虐待视频，有人能承担更多的精神压力，不当回事，有人却容易当场崩溃，所以面试时要选出那些精神承受能力更强的人。
但问题在于，这不像用跑步测试耐力那么简单。我们如何评估所谓的精神承受能力？如何知道合适的暴露水平？如何改变规则去适应突然增多的暴力视频？如何提供足够的工作资源？
这些亟待解决的问题迫切地需要雇主去尝试寻找解决方案。遗憾的是，这样的努力虽然存在，但似乎远远不够。
“让所有人的互联网变得更安全”
在谷歌奥斯汀办公室（实际上是埃森哲），Peter 和 Michael 调侃自己是谷歌的“小白鼠”，不断替公司尝试新的制度。实际上，他们中的一部分人的确是“小白鼠”。
今年早些时候，谷歌发表了一篇论文，名为“测试样式干预以减少内容审核人员的情感影响”。文中描述了两项实验，均以公司审核员为实验对象。其中一个把彩色视频变成黑白的，另一个是默认将不适内容打码。
参与实验的员工是自愿报名的，实验为期四周，前两周看彩色视频，后两周看黑白视频。结果显示，黑白视频的确有助于改善审核员的心情。