鸡拐信息网

社交网站上不为人知的隐匿职业:信息“擦洗工”

(马尼拉TaskUs公司的一名员工)。TaskUs为美国科技公司提供内容筛选服务。互联网技术巨头公司总是以其奢华的自助餐厅、舒适的通勤巴士、即时洗衣服务和其他员工福利而闻名。然而,谁能想到在这样一个普通潮湿的星期二下午,一些大公司最重要的工作是在7000英里外的菲律宾小镇上完成的。

马尼拉西南13英里处,在一个叫做巴科尔的多风小镇,一栋小楼坐落在一排汽车修理店的尽头。这座小楼最初是一所小学。当我爬上狭窄的楼梯时,我不得不贴着墙,以免工作人员列队出去抽烟。在二楼,一个昏昏欲睡的警卫指着他们所谓的“前台”,一张昏暗走廊里堆满文件夹的木桌子。绕过警卫,我来到一个大房间:长桌子上挤满了操作电脑的员工。在这里,我遇到了迈克尔巴亚恩,一个精力充沛、开朗自信的棕色和红色头发的年轻人。

就像这个房间不像新公司的办公空间一样,巴彦淖尔电脑屏幕上显示的也不像新手需要做的:一张特写照片显示了一个有两个分叉端的人造阴茎挤压到阴道里。在巴彦淖尔用鼠标随意点击图片之前,我只看到一张信用卡大小的缩略图。它看起来像一堆肉和粉红色半透明塑料。我几乎分不清那是什么。

Information Screening Process

Baybayan是这个房间里目前从事“内容筛选”的密集员工之一。他和他的同事负责筛选出美国社交网站上未发布的用户上传内容。当社交媒体比以往任何时候都将人们联系得越来越紧密时,大公司将面临“祖母问题”:现在祖父母们将会每天使用社交工具如脸谱网(Facebook)联系他们的子女和孙辈,因此他们可能会遇到“一整套奇异的花朵”,如怪异、种族主义、惊悚、犯罪、欺凌等。

如果他们发现自己的家庭照片被混在一大堆血腥的俄罗斯高速车祸场景和裸体色情视频中,他们可能不会再登录。

社交媒体现已发展成一个价值数十亿美元的行业,其持续吸引力很大程度上取决于该公司如何划定用户生成内容的界限,以确保祖母们不会碰到巴彦处理的那种图片。

所以像脸书和推特这样的公司依靠雇佣劳工大军来吸收社交网络中人性最糟糕的部分,并保护我们其他人。

这个“洗涤器”职业是一个大规模的军队团体,聚集了大量没有进入公众视线的劳工。MySpace前安全主管赫曼舒尼根(Hemanshu Nigam)现在经营着自己的在线安全咨询公司SSP Blue。

据他估计,全球社交网站、手机应用和云存储服务的“擦洗者”远远超过10万人,是谷歌员工的两倍,是脸书员工的14倍。

“洗涤器”主要集中在菲律宾。作为美国的前殖民地,菲律宾与美国保持着密切的文化联系,因此内容放映公司声称他们的业务可以帮助菲律宾识别美国哪些内容是“未发表的”

此外,他们还可以让更多菲律宾人找到工作,获得“美国水平”的工资。瑞安卡登诺曾经是微软的合同工。他告诉我,他在内容筛选外包公司赛克斯公司工作了三年半,最后,他每月能挣500美元。去年,他去了另一家为脸谱网做内容筛选的公司,每月收入312美元33,354美元,这是整个行业的平均水平。

在旧的小学旧址,巴彦和他的同事也为旧金山的初创公司耳语公司工作。耳语是一个匿名的社会应用程序,允许用户匿名分享秘密和发布照片。最近,该公司被风险资本估价为2亿美元。巴彦淖尔的外包公司叫做TaskUs。

事实上,我有点惊讶,耳语会让记者访问他们的内容筛选过程。当我问微软、谷歌和脸书他们是如何管理用户内容的时候,这些公司只是含糊其辞,声称保护用户隐私,没有提供太多细节。许多公司已经让他们的“时间线清洁工”签署保密协议,禁止他们向其他人,甚至同一家外包公司的同事提及他们的工作。

莎拉罗伯特是西安大略大学的媒体研究员,也是少数几个研究商业媒体内容控制的学者之一。她说:“我认为,即使内容筛选没有明确的保密制度,也必须有口头限制。”她认为,互联网公司不愿意承认用户的媒体体验需要一层人工筛选,这将导致对互联网的误解或导致对技术的祛魅,因为每个人或多或少都认为技术是“神奇的”,不需要任何人工帮助。

我能够见证耳语公司的内容筛选过程,因为耳语公司首席执行官迈克尔海沃德认为内容筛选是他们产品整体特征的一部分,也是他们应用程序的卖点。“耳语”贯彻了“主动筛选”的概念,这是一个特别劳动密集型的概念,因为每篇文章在发表时都会被实时审查。而许多其他公司使用“反应式筛选”策略仅在帖子被其他用户标记为“不良”时进行筛选。“我们希望使用匿名来创造一个空间,在这个空间里,我们要求用户展示自己,感受自己的弱点。”他告诉我,“但是“自我”就像牙膏。一旦从管子里挤出来,就很难拿回来。”

看着巴彦淖尔的作品,我清楚地意识到需要多少员工才能把嘀咕的“牙膏”留在试管里。(在我访问之后,巴彦淖尔辞职了。TaskUs的巴科勒镇办公室也因在电脑上使用盗版软件而被菲律宾版的“联邦调查局”搜查。因此,该公司将其内容筛选业务转移到马尼拉)巴彦淖尔的工作始于网格状的帖子,每个网格包含一张矩形照片,其中许多都用粗体字覆盖。

匿名带来了意志的自由,这种自由已经内化了耳语的功能,被用户用来忏悔、发泄或表达不应该出现在脸书和推特上的隐藏欲望。“时间轴擦洗器”必须实时查看一批又一批新发布的帖子。这些帖子断章取义,读起来就像图雷特综合征患者的漫谈,比如“纽约的双性恋女孩想聊天吗?”或者“我讨厌爱尔兰口音!”或者“我和继父发生性关系,勒索他给我买辆车。”

在白板上,潦草的笔迹写着“擦洗者”在时间轴上寻找的“目标”:色情、血液、未成年人、性吸引力、暴露身体隐藏部位的照片、种族主义。

当巴彦淖尔找到目标时,他将其设置为受限级别,然后过滤掉,并将其从时间线和用户帐户中删除。然后他回到网格去寻找下一个目标。在25分钟内,巴彦淖尔筛选出大量肮脏和可疑的照片、仇恨言论和帖子。

更难处理的是贴有清晰男性身体特写照片的帖子,上面写着“我想要同性恋经历,我18岁了。”这种帖子如果被认为是表达秘密愿望,是允许的,但如果被认为是对炮灰的要求,它将被删除。我怎么能区分呢?

Baybayan(和TaskUs的大多数员工一样,拥有大学学位)沉思着自己的评估标准:“这取决于海报的目的。”他说,“必须区分‘思考’和‘引诱’。”他只有几秒钟的时间来判断,因为新内容不断出现在屏幕上,把以前的内容往下推。最后,他删除了作为性吸引的帖子。在另一个未知的地方,一个少年的春天梦想破灭了,而巴彦淖尔继续将屏幕上的网格滚动到顶部,开始下一轮放映。

十万从业者的巨大“精神代价”。

八年后,杰克斯韦林,另一个“时间线洗涤器”,仍然记得那个让他哑口无言的视频。当时,他24岁,在旧金山湾区失业。然后他得到了一个工作机会:为当时一家视频初创公司VideoEgg做一名“清洁工”。

就职三天后,一段斩首视频突然出现在他的任务序列中。“天啊!我有一段斩首的视频!”他大声喊道。

一位穿着比他稍大一点的黑色套头衫的同事随意地转动椅子:“哦?哪一个?”那时,斯韦林根决定不再是“斩首视频鉴赏家”。“我不想回首往事,发现自己厌倦了看到人们遭受如此可怕的不幸。我又累又麻木,甚至可以嘲笑或开玩笑。”现在斯韦林根是亚特兰大媒体的社交网络编辑。

世界各地每天都有很多信息筛选,其中许多是在美国处理的。“擦洗者”是像斯韦林根这样刚从大学毕业的年轻人。许多公司甚至使用“双层筛选模式”将基本信息筛选业务外包给海外公司,而要求一定文化熟悉度的更复杂的筛选在中国进行。

美国“清洁工”享受的待遇比海外同行高得多:在一家大型互联网公司工作的新“清洁工”一天的收入可能超过一名熟练的菲律宾工人。即便如此,在外包公司找到一份“清洁工”的工作仍然是菲律宾年轻人渴望的。对于美国的“涤气器”,当没有出路时,陷入“涤气器”行业往往是一种选择,而且往往很快失去热情。

"员工通常会在三到五个月内达到上限."罗布是一名曾在YouTube工作的“清洁工”,他说,“三到五个月后,你会坐在那里想,‘今天我该做什么?’?”那种感觉太糟糕了。罗布于2010年进入该行业。大学毕业后,他和女朋友来到旧金山湾。在这里,他发现他的历史学位求职就像是背负着一个耻辱,他并不在任何地方都受欢迎。几个月过去了,罗布变得越来越绝望。然而,有一天,他突然接到一家合同公司的电话,要求他在谷歌申请一份为YouTube做内容筛选的工作。

“是的,谷歌!”在电话里,33,354,他被告知他将签署工作合同,并有机会成为正式员工。工资大约是每小时20美元,这比在快餐店当服务员好得多。所以他去面试并签署了一份为期一年的合同。“我只是太兴奋了,”罗布说这份工作报酬很高,我认为YouTube在我的简历上会很好看。“

在最初的几个月里,罗布并不介意在YouTube的圣布鲁诺总部做一名视频“清洁工”。他的同事都是像他一样刚毕业的年轻人,大多数像他们一样的文科学生都很高兴找到这种比服务业好得多的工作。罗布的老板很好,在工作中还有一些额外的好处,比如自助餐厅的免费午餐。罗布通常在八个小时的工作时间里坐在YouTube的开放办公室里,其中一个屏幕上有两个显示器,10个视频被捆绑在一起以便快速浏览。

在另一个屏幕上,他可以做任何他想做的事情。罗布通常看视频和仇恨言论,用一只眼睛折磨人,用另一只眼睛看电视剧。他这样看待整个《银河星战》。因为这项工作,罗布也有幸目睹了YouTube的内部工作机制。例如,2010年底,一名英国妇女声称观看了伊斯兰牧师安瓦尔奥拉基的极端布道视频,并受到启发暗杀了一名政治家。随后,谷歌的律师团队通知擦洗者紧急删除牧师的所有视频。

但是几个月后,这些令人不舒服的东西又回来了,尤其是血腥的东西:暴力街头斗殴、虐待动物、自杀爆炸、斩首、可怕的车祸。当“阿拉伯之春”运动蓬勃发展时,激进分子利用YouTube宣传政府的镇压。擦洗者被警告保留这些“有新闻价值”的视频中的个,尽管它们的内容违反了规定。抗议者的尸体和街头战斗的特写照片远远超出了罗布和他的同事们的能力。那些因为病态的喜欢而拍摄的残忍视频正在摧毁擦洗者的精神。

“有些人上传虐待动物的视频。是的,是暴力实施者写的。他对这种行为感到非常自豪。”罗布说,“我以做不正常的事情为荣.从施虐者的角度看视频不像从第三方的角度报告这种异常行为。这会对你造成特别严重的伤害。这些视频将向你展示人性的阴暗面。”下班后,罗布也开始思考这些视频的内容。他开始变得沉默寡言和易怒。YouTube聘请心理学家为擦洗者服务,理论上任何人都可以和他们交谈,但罗布不知道如何接近他们。据他所知,没有人去咨询顾问。因此,他只能调整自己。他喝得越来越多,而且越来越胖。

与此同时,罗布也越来越清楚地意识到,他永远也不会成为谷歌的全职员工,因为在签订合同几个月后,他提交了一份就业确认申请,但被告知他不能参加面试,因为他的学业表现不符合标准(尽管谷歌否认学业表现是决定性的招聘条件)。罗布说,即使结果令人满意,也很少听到任何合同工最终能获得正式的谷歌职位。合同到期前几个月,罗布找到了一份新工作并辞职了。当最后一天的值班在晚上7点结束时,罗布如释重负地离开了。他跳上公共汽车,开车去他父母家,睡了三天三夜。

虽然“时间线清洁工”的数量已经占到社交网络公司人力资源的一半左右,但做这项工作的长期心理成本仍然需要仔细考虑。简史蒂文森是英国国家癌症中心(相当于美国联邦调查局)职业健康和福利部的负责人。2000年初,当第一波互联网反儿童色情组织成立时,她目睹调查人员被太多儿童色情图片淹没。

尽管她后来离职,一些组织和私人组织仍然向她寻求帮助,所以她成立了一家职业健康咨询公司,专门为高压行业提供服务。从那以后,她一直在咨询英国社交网络公司。与此同时,她还发现,这些公司的“时间线洗涤器”面临的挑战与这些反儿童色情组织人员和执法反恐调查人员的经验相呼应。

"当你看第一张照片时,你会永久地改变."史蒂文森说。然而,有同样问题的执法机构已经为员工启动了特殊的心理治疗计划,并聘请了经验丰富的心理健康专家。然而,许多互联网技术公司尚未意识到问题的严重性。史蒂文森说:“有些人认为这种心理伤害就像工作中的丧亲或欺凌,人们可以自我调整。”。“因为几乎每个人都经历过亲人或朋友的死亡,或者因为听到某人说了他们不想听的话而感到压力,所以每个人都认为这很普遍。

但是和一个两岁的孩子做爱正常吗?慢慢地(请注意,我不想吓到你,但砍头真的不是一瞬间的事)砍掉一个人的头正常吗?这是你所期望的吗?”

在马尼拉,我遇到了丹尼斯(化名),一位在菲律宾两家内容放映公司工作的心理顾问。办公室窗外是一条嘈杂的公路。当面对坐着时,她告诉我:“这种效果类似于‘创伤后应激障碍’,受害者的大脑中有记忆痕迹。”丹尼斯和她的团队为客户建立了一个大规模的监控系统。他们对擦洗者进行了一系列心理测试来衡量他们的心理底线。之后,他们通常会提供采访和咨询,以减少这些令人不安的照片的影响。

然而,即使是最好的咨询也不能抵消长期观察人性阴暗面的成本。

擦洗工辞职的常见原因是,他们中有33,354人对性不敏感,因为他们每天盯着色情图片看很长时间,再也不想和配偶亲近。其他人形容他们被过于强烈的性冲动所困扰。“谁能一天盯着色情内容看八个小时?每天!”丹尼斯问,“你能忍受多久?”

我在不远处的购物中心遇见了玛丽亚(化名)。这是她午休的时间。玛丽亚还在一家外包公司工作,为一家美国技术公司的云存储服务筛选照片和视频

她说:“我对针对儿童的暴行深感不安。我想我必须停下来,即使我停下来放松一下,去星巴克喝杯咖啡什么的。”然后她笑了笑,认为把可怕的性犯罪和昂贵的拿铁咖啡相提并论是荒谬的。

持续接触这些视频已经让玛丽亚的一些同事变成了严重的偏执狂,因为他们每天都发现人类堕落的原始方式是多种多样和无穷无尽的。因此,他们开始对日常生活中接触到的人怀有最大的恶意进行推测,想象他们周围的人在他们的硬盘里隐藏了多少东西。玛丽亚有两个女同事,她们太多疑了,不敢把孩子交给保姆。结果,他们经常旷工,因为他们找不到一个值得信任的人来照顾他们的孩子。

玛丽亚自己也留下了心理阴影,因为她在旅行开始时看到了一段视频。“一个女人,”她低声说,“我不确定15到18岁的样子,但她看起来像个未成年人。一个秃头男子正把头伸进她的下体。女孩被蒙上眼睛,戴上手铐,哭着尖叫着。”这段视频持续了30多分钟。看了一分钟后,玛丽亚不禁因悲伤和愤怒而颤抖。谁会想到一个人会如此残忍地对待另一个人?她仔细观察了那个暴力男子的秃顶,他看起来像中东人的血,但没有明显的特征。这张魔鬼的脸是你在超市里不看第二眼就经过的那种。

在云存储内容筛选公司工作两年半后,玛丽亚计划在年底辞职去医学院,但她觉得即使她辞职,这段视频也会困扰她。“我不知道我是否能忘记它,”她说。"我很久以前就看到了,但感觉真的像昨天一样."

[本文由合作媒体授权的投资界转载。这篇文章的版权属于原作者和原出处。这篇文章是作者的个人观点,并不代表投资界的立场。请联系原始作者和原始来源以获得授权。如果您有任何问题,请联系(editor