“盈”利与“营”利,宝家乡墅科技花三年下的棋,将走向何方?
“盈”利与“营”利,宝家乡墅科技花三年下的棋,将走向何方?
高瓴为何“不可复制”
高瓴为何“不可复制”
美国45天后封杀TikTok和微信,腾讯市值蒸发5000亿港元
美国45天后封杀TikTok和微信,腾讯市值蒸发5000亿港元
放弃纽交所投奔纳斯达克,优客工场会是联办第一股吗?
放弃纽交所投奔纳斯达克,优客工场会是联办第一股吗?
立即打开APP
Apollo
私信
0

娈童、杀戮与欺凌,社交媒体的黑暗面和外包审核员的噩梦

2019-07-29
人物---- 课堂-----
他认为内容审查应该留给机器人。

【猎云网(微信号:ilieyun)】7月29日报道(编译:楼人源)

辞职一年后,Lester时刻都祈祷着能忘记在审查社交媒体时看到的一些毛骨悚然的图像。

他先后是YouTube和Twitter的审查员。他每天需在马尼拉一个商业区高层工作9个小时,权衡图像中孩子的生殖器是否为故意触碰,或者刀砍脖子的图片是否描绘了现实中的杀戮——以及此类内容能否过审。

审核的内容给他造成了心理阴影。现在,每进入一座高楼就会触发他回顾自杀事件,甚至有自杀的念头。他会为搜索兽交与乱伦感到羞愧,但又受其吸引。在过去的一年里,每周他都会去教堂祈求上帝消除他记忆中的那些图像。

“我知道这不正常,但现在一切都趋向正常化了,”这位签署了保密协议的年轻人说。

像Lester这样的工作人员正站在这场无休止的战斗前线以确保互联网安全。但他们正遭受着一些世界科技巨头的剥削。

外包的审核工作

过去的几年里,社交媒体公司在世界各地创造了数以万计的工作岗位,来审查和删除暴力或攻击性内容,试图重塑其在美国大选期间受损的声誉。为节省成本,这些公司通过大型外包机构雇佣远在菲律宾的廉价劳动力。

据工作人员反映,这些公司没有提供足够的心理保障。他们因为保密协议不能向朋友倾诉,又不能选择他们看到的内容,日常工作指标又带来无尽的压力。科技行业已经意识到给予审查员这些权利的重要性——2015年签署的自愿协议为审查儿童剥削内容的员工提供选择自由。

长期以来,技术硬件行业由大量外包工厂审核员制造。这些审核员在高压工作环境下制造全球的智能手机和笔记本电脑,有时会不堪重负选择自尽。软件行业也开始越来越多地依赖廉价消耗性劳动力,这种隐形人力能确保人工智能语音助理精准响应,自动驾驶系统发现行人和其他物体,暴力性行为不会出现在社交媒体上。

对审查员的危害在菲律宾最明显。菲律宾是此类工作规模最大、发展最快的中心之一,这也是该国数十年来呼叫中心行业发展的结果。与其他地区审查员(如印度或美国)的工作不同,马尼拉各地办事处的工作人员对来自世界各地的图像、视频和帖子进行评估。他们每天需审核几百条内容,其中包括他们不理解的外国文化或语言。

14位马尼拉审查员描述了一个充斥着噩梦、偏执和反省的工作场所。有人曾看到同事在办公桌前精神崩溃。其中一人说,他在心理创伤下企图自杀。

有些审查员称自己是互联网的默声英雄,保护美国人免受社体弊病的侵害。他们将保护网络安全于己任,甚至在空余时间寻找并举报有害内容。

一位在马尼拉的Twitter审查员说:“在轮班结束后,我已经筋疲力尽不能思考。要完成这项工作,你必须做一个坚强的、非常了解自己人。”他偶尔梦到自己成为自杀式爆炸或车祸的受害者。

为Facebook、Instagram、YouTube、Twitter、Periscope等此类应用程序工作的审查员,都来自Accenture和Cognizant等中介机构。受访者因保密协议只能匿名发声。

政策与现实的脱节

在采访中,科技公司表示,他们最初急于创造新岗位,但他们已经意识到并仍在努力为审查员在提供心理咨询,在改善工作环境的同时管理社会。这些公司指出,他们在过去一年里进行了一系列改革。Facebook的一位顾问承认,创伤后应激障碍(PTSD)可能是工作的影响。他们制定的政策与第三方的实施之间仍然存在脱节。

《华盛顿邮报》还与都柏林和美国的审查员进行了访谈,他们与马尼拉的审查员有相似的经历。但他们近期通过工人运动获得了更好的福利和工资。专家表示,菲律宾审核员不太可能自主提出改善工作条件。因为对菲律宾审核员来说,这份看似无前途的工作却是他们最好的选择之一,而且他们更怕违反保密协议的后果。

这些工作对菲律宾许多刚毕业大学生有很强的吸引力。相对较高的工资能帮助他们更快步入中产阶级。许多审核员说他们离职时没有任何负面影响。

尽管全球有数以万计的人每天在网络审查,但很少有正式研究针对审查员的后遗症。虽然许多菲律宾审核员说他们之所以成为审查员,是因为他们认为这比服务客户更容易。但Sylvia Estrada-Claudio,菲律宾大学社会工作和社区发展学院院长,认为这份工作与其他工作大不相同,“长时间看受害的人或动物、各种暴力伤害图像会产生心理创伤。”她担心对于有潜在心理问题的年轻人在接触到这种令人不安的材料后会引发心理危机。

花旗集团、Accenture、特朗普大厦和数十家鲜为人知的公司是菲律宾外包经济的主要部分。近二十年来,菲律宾呼叫中心一直在为英语国家的消费者完成后台任务。

如今,除了内容审核之外,这些工作还包括为美国电信公司和健康保险公司做电话客服,清除在eBay上出售的非法物品,删除谷歌地图上的重复列表、自动驾驶汽车录制的视频片段。

Lester毕业后,在呼叫中心工作了约十年。2017年,他换到YouTube做内容审核。他最初认为,与客户打交道相比,在线审核内容的压力要小一些,而且他喜欢Accenture在谷歌账户上提供的福利。但他又觉得YouTube的政策令人困惑,并无法获得心理咨询。

几个月后,他为寻求更好的心理支持调到Twitter工作。这份月薪约480美元的新工作帮助他维持生计。

他在家附近七车道高速公路上搭车上下班。

他上班的车费仅需20美分。在空余时间,Lester有时会在Facebook上向朋友和同事发送激励性的圣经引文。大多数时候,他只是补觉。

当Lester在Twitter上班时,会把他的手机和其他贵重物品放在一个储物柜里。他的经理会向团队提供上一班的统计数据,如每个人审核的帖子数量及其准确性,要监控的趋势标签和突发新闻事件。例如,奥兰多的Pulse夜总会枪击事件。

之后,他会几个小时坐在一个大显示器前一条条审核推文。组长追踪他接触到的案件数量,在他需要暂歇时把他注销。Twitter的审查员每天通常要审多达一千条个人推文、回复和留言。

Lester说,他无法控制看的内容——是伊斯兰杀人犯还是孩子被迫兽交或是冗长的反特朗普言论。他无法模糊、缩小图像,或切换其他界面,因为电脑没有连网。

在过去的八个月里,他审过数不清的暴力图像。最难忘的一段视频,大概是一个非洲帮派把一个人拖到森林并用一把大刀多次砍他的喉咙,直到血液覆盖镜头。据Lester估计,他一个月大约能审到十条谋杀案。他审了至少一千条与自杀相关的内容。

“我们处于前线,像911第一批救援人员。”Jerome说,他曾在Twitter旗下的Periscope审视频至2018年11月。一位印尼审查员说每次他撤下一篇含ISIS旗帜的内容,就为防止了激进感到安慰。

一段时间后,Lester发现他的工作开始影响生活幸福。他重燃自杀倾向却无法获得心理治疗。同时,他对看到的色情内容感到羞愧不安。

Lester并没有企图自杀,但另一个曾在Facebook和Instagram工作的审查员却尝试自杀。工作的内容恶化了他的心理状态。辞职后,他于2016年在汽车旅馆自杀未遂,一年前看到的场景再次上演。他的朋友在电话里拯救了他。“如果我还在那里工作,我现在就已经死了。”他说。

审核力度的加大

2017年秋,“通俄门”听证会前夜,Facebook首席执行官马克·扎克伯格宣布,将招聘一万名新审核员对网站上内容的进行安全审查,审查员总数达到两万人。(现为Facebook审查内容的1.5万人是承包商)。一个月后,YouTube和谷歌承诺至2018年底提供一万个工作岗位。Twitter也开始加大审核力度,其承包商在次年翻倍至1500人。

加州大学洛杉矶分校的助理教授Sarah T. Roberts说,在科技公司发布公告后,审查员、数据分析者、内容编辑这些职位逐渐热门。尽管一些科技公司已经设立了办公室,但在听证会后,内容审核的需求以百倍增长。

菲律宾作为一个有20年呼叫中心历史的英语国家,是扩大审查行动的理想据地。2012年,Facebook通过Accenture在菲律宾开设了内容审查办公室。2015年,Twitter通过外包公司Cognizant开设第一个马尼拉办公室。

谷歌前法律顾问Nicole Wong表示,她最初不愿意外包运营。因为她觉得这项工作需要细致入微的法律和文化理解。对于海外合同工来说,无监管分析是有难度的,而且可能导致错判。但随着需求扩大,他们需要全天候的审核和对多语言的支持。

欧美的审查员仅需要用母语审查。但对于只讲塔加拉语和英语的菲律宾审查员,却被要求审查多达10种语言。他们或许能咨询精通外语的同事,但除此之外,只能依靠谷歌翻译和词典,这些工具有时会加剧他们的困惑并造成压力。

最初,内容审查员在科技公司需承担刑事责任的地区(如德国、澳大利亚、法国和土耳其)非常重要。美国的相关规定则宽松得多。但在过去两年里,美国公众和立法者给科技行业施加了巨大压力,要求他们清理一系列弊病——这推动了审查员的快速增长。

Facebook审核办公室,现已遍布20个国家,最大的海外办公室在菲律宾和印度。Twitter在8个国家成立办公室。(YouTube拒绝回答有关审核运营的问题,包括审核中心的位置。)

Twitter服务副总裁Donald Hicks在接受采访时表示,在这种工作中,平衡休息、心理状况与实现指标绩效是一项挑战。2018 年初,他受聘对Twitter的运营进行彻底改革后,他重点把机械的工作环境过渡到更人性化。

2015年,Facebook、谷歌、Twitter和其他“技术联盟”公司,将虐待儿童作为审查重点。这是该行业当时最大的关注点,也是唯一法律上要求科技公司负责获取内容的领域。

行业代表称自愿准则是对工作心理负担的重要承认,是建立共同标准的唯一尝试。他们呼吁公司制定工作场所的“弹性计划”,允许员工选择不看引起不适的内容,休息,可以向朋友倾诉工作。建议审核员可以每小时切换不同类型的任务并获得心理咨询。

接触过儿童剥削和其他负面内容的审核员说,实际上这些准则没有得到实行,他们甚至不知道这些建议。(这些准则最近从技术联盟的网站上被删除。)

菲律宾的一些审查员说他们的工作很少提供心理咨询,而美国的审查员可每周预订一次心理咨询。

Lester和其他审查员说,实际上目前并不能选择剔除他们可能会感到不适的内容。因为软件以点击量为生,人们从来不知道他们会得到什么。他们能做的是请求切换到另一个审查主题的团队。

尽管所有公司都否认他们设立了额定配额,但准确率和审查数量仍让审核员感到压力,这使得他们无法分配时间休息。公司定期审核工作并期望其准确性率保持在95%以上。审核员认为这种类似于配额。

开始提供支持

Facebook是类似公司中受到最多监管的,它在努力改善审查员工作条件。例如试图终止审查帖子的配额,提高美国审查员的工资并聘请心理学家为所有审查办公室设计"弹性"计划。

社交网络公司计划审查员提供全天候无限面对面咨询服务,并开启离职员工心理咨询。Facebook也正在创造多种指标评估员工,以减少员工压力。

YouTube说其世界各地的审查员可以定期获得咨询,而且每天审查时间低于5小时。但它拒绝提供具体信息。

Twitter则提供日常咨询,并要求外包公司为离职员工提供额外心理支持。Hicks说审查员看到内容不适就可以提前离开并得到班次工资。

Twitter和Facebook也为保密协议进行了辩护,称此类协议对于保护用户和审核员的隐私是必要的。

Accenture发言人Rachel Frey表示:“我们为我们的员工和工作感到自豪,我们与客户合作致力于提高互联网的安全性。我们拥有领先的项目,主动提供按需咨询。我们不断审查、基准和投资以创造最有利的工作场所环境。”但她拒绝透露按需咨询政策实行的时长。

Cognizant在一份电子邮件声明中表示:对于审查员,我们提供各种支持选项。包括全天候电话支持、访问场外顾问和定期安排的现场顾问。鉴于这一相对新的工作领域不断变化的趋势,我们将持续与领先的人力资源、健康顾问以及我们的客户合作,开发和实施下一代健康方案。

马里兰大学帕克分校副教授Jan Padios表示尽管呼叫中心是菲律宾常见的就业形式,但最近审核员才开始努力实现工会化。

准确性配额、监控指标和其他机械化程序是呼叫中心工作模式。它不适合需要休息和处理情感痛苦的审查项目。心理学家Stefania Pifer说:“这是一种老类型的模式,难以适应新型工作。这可能导致不道德的工作条件。”

硅谷的高层经常谈论劳动力自动化,内容审核或许会和呼叫中心一样被技术取代。

Estrada-Claudio认为对自动化的期望阻止了劳工权利争取的进步。当自动化接手,审查员失业,那么将如何抗争更多福利?

但科技公司开始承认,他们可能永远不会达到完全自动化。扎克伯格在4月份接受《华盛顿邮报》采访时表示,“我认为人力总会存在。”

科技公司正在创造一个永久的外包依赖性人力工作。审核员有可能遭受严重的创伤。这个现状几乎没有监督,也很少有明确解决方案。

同时,专家认为,这些公司不可能在全球雇佣足够的审查员来解决他们的巨大问题。

对一些菲律宾审核员来说,他们期望自动化尽早到来。Lester现在一家呼叫中心销售人寿保险。他一直在劝他以前的同事放弃审查。在生活中,他努力避免内容审查带来的心理影响。

他认为内容审查应该留给机器人。“人们认为我们菲律宾人能没有顾虑的适应这项工作。但这永远留在我们的脑海里。这些工作应该交由机器,”他说。

猎云网APP阅读全文

体验更加

猎云网

微信扫码关注猎云网

  1. 猎云网原创文章未经授权转载必究,如需转载请联系官方微信号进行授权;
  2. 转载时须在文章头部明确注明出处、保留官方微信、作者和原文链接,如:转自猎云网(微信号: ilieyun )字样;
  3. 猎云网报道中所涉及的融资金额均由创业公司提供,仅供参考,猎云网不对真实性背书。
猜你喜欢
长按图片可以分享给好友
×