《彭博商业周刊》封面
去年，斯里兰卡的一名Facebook用户发布了一条愤怒的消息。这名用户用僧伽罗语写道：“杀死所有穆斯林婴儿，一个也别放过。”僧伽罗语是该国占多数的佛教人口所使用的语言。
这条消息发布于2018年初，发布时文字是白色，背景是粉紫色。这是Facebook从2016年开始提供的一种设计，目的是鼓励用户更多地分享。在有其他用户感到不妥，点击举报按钮之前，这条内容已经获得了30次点赞。举报者选择了“仇恨言论”选项，这是Facebook平台列出的九类令人反感的内容之一。
多年来，斯里兰卡的非营利性组织一直警告称，Facebook正在加剧僧加罗人佛教徒和泰米尔人穆斯林之间的种族紧张关系，但该公司并未重视这个问题。Facebook过了6天时间才对这次仇恨言论报告作出回应。该公司对举报者说，“感谢你的反馈”，但这些内容“并不违反我们具体的社区标准”。举报者将这个回复发布到了Twitter。
这条内容一直都没被删除。去年，网上出现了一波针对穆斯林的暴力攻击，而这条内容也是其中一部分。谣言在Facebook上流传，声称穆斯林在佛教徒的食物里放绝育药。2018年2月底，一群暴徒袭击了斯里兰卡东部小镇Ampara一家穆斯林餐厅的老板。他侥幸逃生，但在接下来的一周时间里，在中等规模城市Kandy发生了更多骚乱，导致了两人死亡。随后政府介入采取措施，其中包括要求Facebook下线3天。
下线的要求终于引起了Facebook的关注。该公司指派曾在奥巴马政府任职的律师杰西卡·莱恩万德（Jessica Leinwand）调查问题。她的结论是：Facebook需要重新思考对假信息的纵容态度。在斯里兰卡的骚乱发生之前，该公司的政策对假新闻和假信息持容忍态度。莱恩万德总结说：“让一家私营公司判断信息是否属实真的令人担忧。”
然而，当莱恩万德开始调查斯里兰卡发生的事件时，她意识到，这项政策需要引起警惕。从那年夏天开始，Facebook开始在一些高风险国家，例如斯里兰卡，删除某些内容，但前提是这些帖子被当地的非营利组织报道，并可能导致“迫在眉睫的暴力活动”。当6月份关于“绝育药”的流言再次出现时，Facebook的新政策开始起效果。
莱恩万德表示，她个人都对此感到满意，这也证明Facebook有能力监管其平台。
但情况是否真的如此？
大约一年前媒体曝料，Facebook允许数千万用户的个人数据被分享给咨询公司剑桥分析，后者参与了美国总统特朗普2016年的竞选活动。这个消息引发了美国司法部对Facebook数据分享行为的调查，调查随后甚至还引入了大陪审团的参与。
侵犯隐私信息并不像种族暴力那么严重，但这起事件表明，公众对Facebook巨大影响力的认知发生了明显转变。然而Facebook仍在遵循惯用模式：该公司知道问题存在，但在过去多年中一直视而不见，在被曝光后则发表不痛不痒的说辞，想要大事化小。
例如，Facebook CEO扎克伯格在去年4月出席国会听证会时不断重复：“我们正从更广泛的视角来看待我们的责任。”
他于3月初发表了长达3000字的博文，表达了类似看法，承诺Facebook将专注于通信隐私，以解决受信任问题，同时承认该公司的应用中仍然存在“可怕的事件，例如儿童被侵犯，恐怖主义和敲诈勒索”。
如果Facebook想要阻止这些事情，那么就必须以更好的方式与27亿用户来打交道。这些用户生产的内容促进了Facebook广告引擎的发展，给该公司带来了丰厚的利润。Facebook业务依赖于对这些内容进行分析，向用户展示他们可能喜欢的其他内容。这种机制带来了副作用，导致假新闻和极端主义被放大。
Facebook让莱恩万德和其他高管接受了《彭博商业周刊》的采访，希望证明该公司正在取得进展。
27页“社区标准”
然而不幸的是，他们介绍的问题报告系统非常依靠低工资的人工管理员和软件，处理速度缓慢，资源不足。Facebook有能力付更多钱给这些管理员，或招募更多管理员，或是对用户发布的内容作出更严格的规定。然而，这样做都会不利于该公司的利润和营收。因此，Facebook选择采取被动姿态，想要在问题出现后再制定规则。这些规则确实带来了帮助，但批评人士直言，Facebook需要更加积极主动。
Facebook的早期投资人罗杰·麦克奈米（Roger McNamee）指出：“当问题出现在系统中之后再尝试发现和修复，这样的理念存在缺陷。从数学上来说，这是不可能做到的。”
麦克奈米目前是发声最激烈的Facebook批评者之一。他近期出版了新书《Zucked》。
书中认为，由于Facebook提供精准广告的能力取决于对大量用户数据的收集和处理，因此该公司缺乏天然的动力去限制有问题内容。他表示：“他们看待这些的方式实际上只是为了避免修复商业模式中的固有问题。”
目前，用来管理Facebook的是只有27页纸的“社区标准”。这个标准于2018年首次公布，其中的规则包括，除非用于科学和教育目的，否则不允许出现“制作爆炸物”的教学内容。此外，“可以看见屁眼”和“全裸臀部特写”的照片也是被禁止，除非这些图片用于公众人物。在这种情况下，作为评论，这样的图片是被允许的。
个别来看，这些标准很是荒谬可笑。然而Facebook高管们表示，他们正努力尝试以可扩展的方式，系统性地解决网站上最糟糕的问题。这意味着，这些规则需要有足够的普适性，适用于全球任何地方；此外也要足够明确，让Facebook在菲律宾、爱尔兰和其他远程内容审核中心的低薪员工可以在几秒钟内判断，如何处理被标记的内容。
与此同时，对于在Facebook从事这方面工作的1.5万名全职和外包员工，他们的劳动条件也引起了争议。
今年2月，美国科技网站The Verge报道称，美国的管理员每年收入只有2.88万美元，同时被频繁要求查看含有暴力、色情和仇恨言论的图像和视频。有些人因此患上了创伤后应激障碍。
Facebook回应称，正在对外包劳务提供商进行审核，与它们保持更密切的联系，以确保更好的劳动条件标准，支付最低工资。
扎克伯格表示，Facebook用来识别裸体和恐怖主义内容的人工智能算法最终能过滤大部分此类内容。然而目前，即使最复杂的人工智能软件也无法很好处理需要联系上下文进行判断的内容类别。
Facebook全球政策管理负责人莫妮卡·比科特（Monica Bickert）认为：“仇恨言论就是此类内容之一。霸凌和骚扰也是如此。”
在接受采访当天，比科特正在处理Facebook对前一天马里兰州安纳波利斯Capital Gazette大规模枪击案的回应。在这起枪击案发生后，比科特指示内容审核员关注赞扬枪手的内容，并阻止炒作者以枪手或受害者名义注册虚假帐号。这起枪击案导致了5人死亡。
随后，她的团队下线了枪手的帐号，并将受害者个人页面转换为Facebook所谓的“纪念账号”。这些帐号看起来与Facebook普通页面没有差别，但在逝者姓名上方添加了“铭记”一词。
类似这样的危机每周都在发生。
比科特表示：“不仅仅是枪击案，还可能是飞机坠毁。我们要等待调查清楚飞机上有什么人，以及事故是否是恐怖袭击。可能会发生抗议活动，也可能有人受伤。”
这些算是比较容易处理的情况。在这些事件中，对与错的界线是清晰的，并且Facebook已经有现成的应对方案。比科特用自己的笔记本电脑展示了Facebook社区标准团队会议上用到的一张幻灯片。
该团队每周四上午会碰头，制定新规则。多达80名员工会在线上线下参与讨论。
幻灯片显示，去年某个周四，关于女用户在创建的#Metoo内容中实名曝光骚扰者的情况，该团队讨论了应该如何应对。如果这些内容不属实，那么可以被解释为对无辜者的骚扰。在同一次会议上，团队还评估了出现病毒式传播的一类活动，例如“避孕套鼻孔挑战”。
在这种活动中，挑战者从鼻孔吸入润滑过的避孕套，随后尝试从嘴里拉出来。类似的挑战还有十几个，例如智利辣椒挑战、Tide Pod吃洗衣剂挑战等等。年轻人会想要这样夺人眼球的尝试，吸引他人的关注。然而，如果这样的挑战会造成人身伤害，Facebook是否应该主动阻止？
行动太慢？
去年12月，经过几个月讨论，Facebook加入了新规则。在#MeToo内容中出现的批评是可以的，只要没有鼓励报复。挑战同样没问题，只要挑战活动不鼓励人身伤害。然而，“避孕套鼻孔挑战”似乎处于灰色地带。比科特说：“对这些问题的判断并不是非黑即白。”
在国会证词和其他地方，关于对平台内容政策的批评，Facebook准备了一整套回应说辞。如果被问到某些已被社区标准禁止的网站内容，Facebook高管会再次向公众保证，这样的内容是“不被允许的”，或者是“没有容身之处的”。
如果规则尚未制定，那么Facebook通常会解释说，正着手解决这个问题，该公司之前“动作太慢”没有意识到问题，目前正在承担起自身的责任。
Facebook多次表示，此前“行动太慢”，未能注意到2016年俄罗斯操纵美国大选，缅甸的种族灭绝，以及斯里兰卡的种族暴力。然而，“太慢”也是一种委婉的说法，真实的情况是Facebook有意忽视问题，直到有重要人物开始发表意见。
科技行业高管、社会活动家艾琳·凯莉（Eileen Carey）表示：“他们不想为任何事情承担责任。”自2013年以来，她一直在记录药贩子在网上发布违禁药物照片的情况，其中某些药物被标记为“奥施康定”或“维柯丁”。许多这类内容中都包含电话号码和地址，感兴趣的用户可以选择当面交易或邮递。实际上，这些是非法阿片类药物的分类广告。
凯莉对这方面的关注始于她在一家咨询公司任职期间，这家咨询公司帮助普渡制药打击假药。大部分科技公司，包括阿里巴巴、Craigslist和eBay在凯莉发出警示后，很快就同意删除这些图片，但Facebook及其旗下Instagram却是例外。
与扎克伯格类似，凯莉来自纽约州Dobbs Ferry，居住在旧金山湾区。她有时会和Facebook高管一起参加派对。在派对上，她对这些问题的抱怨也常常让气氛变得尴尬。
她说：“自从开始尝试清理网上的假药以来，我在参加派对时就很尴尬。”从2013年开始，凯莉就一直在关注这方面问题，她每天花几分钟时间，搜索并报告在Facebook和Instagram出售的药物。
通常情况下，她会获得不痛不痒的自动回复。某些时候，她甚至完全得不到回复。当时，科技公司正在各类会议和研究报告中表态，支持对匿名暗网上的药物销售进行更严厉地打击。
然而在现实中，凯莉注意到，大部分非法药物购买都发生在普通网络、社交媒体和其他线上平台。她说：“有人因此丧命，而Facebook根本不关心。”
2018年，凯莉开始发布Twitter消息，向记者和Facebook员工进行投诉。
4月份，负责人工智能软件训练的Facebook副总裁盖伊·罗森（Guy Rosen）向她发消息，希望她能提供所说内容的更多证据。
凯莉在发给罗森的邮件中写道：“在Instagram上搜索#芬太尼和#oxys，都能看到许多药品的照片，这些帐户通常都来自药贩子。”她还发送了一些卖药的Instagram内容。“我早些时候已经报告过这些情况。问题在#opiates（鸦片剂）的搜索中仍然存在，搜索结果多达4.3万个。”
罗森回复她：“太好了，真是帮了大忙。”Facebook最终于4月份在Instagram上移除了可搜索的标签。就在一周前，美国食品药品管理局（FDA）局长斯科特·戈特利布（Scott Gottlieb）对Facebook表示了批评。而一天前，扎克伯格参加了美国国会的听证会。
自那时以来，凯莉就一直在关注来自肯塔基州、俄亥俄州和西弗吉尼亚的新闻报道。今年，这些地方因为阿片类药物滥用导致死亡的人数有所下降。一些文章推测，原因可能是社区治疗中心或心理健康辅导资源的增加，但凯莉有着不同看法：“唯一真正改变的就是搜索标签。”
即便如此，Facebook上卖药的问题依然存在。去年9月，《华盛顿邮报》将Instagram描述成为“一个推广非法药物的大市场”。作为回应，比科特发表一篇博文，解释称Facebook已经屏蔽了数百个相关标签和内容，并且正在开发计算机图像技术，更好地识别卖药的内容。她还使用了意料之中的一句话：“在我们的服务中，这些内容没有存身之地。”
机器审核员
作为CEO、董事长、创始人和控股股东，扎克伯格常常面临的问题在于，他是否配得上掌握对公司产品近乎绝对的控制权。他强烈反对这样的质疑，唯一的例外是在内容管理领域。
他于11月写道：“我越来越相信，Facebook不应该在自由表达和安全方面只依靠自己做出这么多重要决定。”据他介绍，该公司将建立“独立机构”，以“透明和有约束力”的方式，就Facebook上应该提供哪些内容的争论做出最终决定。他表示，提议中的小组将包括40名“不同专业的专家”。“正如董事会对我们的股东负责一样，这个机构将只专注于我们的社区”。
与此同时，扎克伯格还计划将尽可能多的内容管理工作转移给计算机。
比科特表示，内容审核员正在对机器进行训练。“审核员会说，‘机器，这件事你判断对了。这是仇恨言论。’或者‘不对，机器，这次你弄错了。这不是仇恨言论。’”Facebook表示，在被管理员下线的内容中，有52%之前就已经被算法标记出来。此外，该公司也在尝试用人工智能删除与卖药相关的内容。
另一种让渡责任的方式是鼓励用户尝试该公司最新的加密消息服务。在这种设计下，就连Facebook也看不到用户在说什么。扎克伯格在3月6日的博客中写道：“我相信，一个注重隐私的交流平台将比今天的开放平台更重要。”
一些人认为，这是剑桥分析丑闻发生后，Facebook批评者的胜利。然而就连扎克伯格也承认，这只是一种权衡的策略。这种转变可能会让恐怖分子、毒贩和狂热宣传者更加疯狂。
Facebook旗下的WhatsApp已经实现加密通信。然而在印度，WhatsApp上传播的错误信息导致村庄对涉嫌绑架儿童的人发生恐慌，很多人对不速之客投掷石块或处以私刑。WhatsApp无法删除这些内容，只能减少消息送达人数的上限。根据BBC的报道，印度随后又发生了另一起“WhatsApp私刑”事件。
公关全世界
与此同时，Facebook的管理者们一直尝试安抚全世界。去年9月，比科特前往斯里兰卡，拜访了60多个公民社会团体，听取他们对假帐号等问题的关切。讨论的问题有很多。
斯里兰卡政策替代研究中心高级研究员桑加纳·哈托图瓦（Sanjana Hattotuwa）表示：“他们的社区标准非常具体，例如什么样的内容会带来迫在眉睫的威胁。”然而，“其中某些内容的关键在于，在更长的一段时间里，内容会变得激进化。”
近期，哈托图瓦的组织在一篇博客文章中警告称，Facebook与该国政府关系过于密切，双方交换礼物，并且获得了一些官员的支持。这些官员也被指控出于政治目的传播虚假信息。博文内还引用了一名官员的Twitter消息，内容是Facebook地区公共政策总监安克伊·达斯（Ankhi Das）向斯里兰卡前总统马欣达·拉贾帕克萨（Mahinda Rajapaksa）赠送当地艺术家的大型画作。
一些人指责，拉贾帕克萨的支持者策划了反穆斯林的骚乱。Facebook则表示，这份礼物是“公共艺术”，没有现金价值，此外该公司也向斯里兰卡的其他领导人赠送了画作。
哈托图瓦、凯莉和全球各地批评者最关心的点在于，Facebook更感兴趣的是修复人们对问题的看法，而不是解决问题本身。化名为Alex的受访者近期获得了Facebook伦敦的一份工作邀请，这份工作专注于Facebook的政策计划。
由于担心遭到报复，他要求不使用真名。他曾在一家大型科技公司从事政府事务活动。在几十场会议中的某一场，他曾与Facebook全球政策项目负责人维多利亚·格兰德（Victoria Grand）进行过交谈。
根据他的回忆，由于Facebook发生的一系列丑闻，他曾问格兰德这个职位的本质：“你需要有人来实现持续的改变，还只是改变渠道？”格兰德告诉他，从来没有候选人问过这个问题。短暂停顿后，她继续回答这个问题。
Alex表示，格兰德当时的说法是：“听着，我认为每个人都期待理想主义，并承诺要做的是前者。但如果我们只是疲于应对负面信息，那么没有人会去关心我们做的所有好事。”不过Facebook表示，根据格兰德的回忆，“这场对话的内容完全不同”。Alex拒绝了这份工作。（翻译：陈桦）
【来源：腾讯科技】
