近来，Facebook因接连有用户在网站上直播暴力视频遭到外界批评。

FacebookCEO扎克伯格近日对外宣布在个人Facebook称，计划在接下来的一年里聘请3000名员工审查直播的不良内容，还会加大力度删除涉及谋杀、自杀及其它暴力行为的视频。这也是该公司在近来一连串直播丑闻事件发生后下决心整治网站内容的表现。

2017年1月，有人在Facebook直播毒打一被捆男子，大约有1.6万人观看；3月，至少40人观看了一位15岁芝加哥女孩被五六名男子性侵的直播；4月中旬，美国克利夫兰一男子发帖直播其杀人的过程，视频上传后3小时才被删除，当时Facebook发言人也表示“不允许这种内容出现在Facebook上”，然而没过几天又出了事，一名泰国人在该平台上直播勒死了自己年仅11个月的女儿，浏览量达37万次。不用说，Facebook的内容审查和突发事件反应速度再次饱受批评，而其发言人也必须再下以后绝不再犯的保证。

这次扎克伯格也不能忍了。

据《华尔街日报》4日报道，脸书首席执行官扎克伯格表示，公司现有4500名内容审查员，还要再增加3000人，以便更好地监控脸书用户上传的内容，及时处理涉及仇恨犯罪的文字或视频。扎克伯格说，除了与警方和社区组织合作，脸书还将在技术层面给予保障，比如简化用户向公司举报不当内容的程序，令内容审查员能够更快地判断相关文章或视频是否违规。“要想建立一个安全的社交网站，必须反应迅速。”扎克伯格透露，脸书检查人员每周要审查数以百万计的内容。

曾有报道称人工智能已成网络审查员的主流

去年有报道称，Facebook 的人工智能系统的骚扰图片报告效率已经高于人工审核，这标志着 Facebook 在对抗社交网络骚扰方面已经取得了重大的成果。人工智能可以在恶意内容对真人造成伤害之前将其隔离。

广告收入丰厚的 Facebook 拥有充足的资金可以投入到人工智能和机器视觉的研究之中，这些技术能够帮助它更好的拦截骚扰内容。如果要让用户愿意在自己的平台上发表个人内容，Facebook 必须营造一个没有骚扰的文明交流空间。

Twitter 在阻止和应对骚扰问题方面一直广受批评，它的前任首席执行官迪克·科斯托罗（Dick Costolo）在去年也承认“我们不擅长处理骚扰。”由于 Twitter 仍未实现盈利，因此它可以投入到人工智能研究的资源肯定不如 Facebook。尽管如此，但 Twitter 还是一直有在这方面努力。

在技术基础准备方面，Twitter 分别收购了视觉智能创业公司Madbits和 AI 神经网络创业公司Whetlab。根据《连线》（Wired）的报道，它们的人工智能技术可以识别出骚扰图片，而且这个系统在过去一年的有害图片误判率仅为 7%。对于识别骚扰图片这项令人不快的工作来说，人工智能系统可以降低人手操作的需求，不过 Twitter 在封禁恶意用户之前仍然需要由进行人工审核。

骚扰内容对真人造成了巨大的心理压力

当恶意用户上传骚扰内容到社交网络时，通常这些内容至少会被一位用户或工作人员看到并报告为骚扰信息。违反 Facebook 或 Twitter服务协议的骚扰内容可包括仇恨言论、人身威胁、色情、煽动暴力、裸露图片或无端暴力。

比如恐吓者、被抛弃的旧情人、跟踪狂、恐怖分子或者煽动者可以在他人的个人主页、群组或动态消息发布骚扰图片。他们可能会上传一些报复性的不雅照片、血腥图片，以及涉及性别或种族歧视的言论。当有人看到这些内容并将其标记为骚扰信息时，它们就已经对真人造成了一定程度的伤害。

这其实是一项需要承受巨大心理压力的工作，审查员要鉴别从儿童色情到斩首图片的各种敏感内容。他们的精神很快就会不堪重负，许多审查员都反映自己出现了类似于创伤后应激障碍的症状，现在也有一些像Workplace Wellbeing这样的整体健康咨询机构在为饱受心理折磨的审查员提供协助。

Facebook 的人工智能技术可以避免让真人去完成这项难以忍受的工作。AI 可以代替合同工成为骚扰内容过滤的第一道防线，每一张上传的图片在其他人看到之前都会先经过电脑的扫描，从而实现批量内容审查。

Facebook 的应用机器学习工程总监华金·坎德拉接受媒体采访时曾表示，“现在我们的 AI 算法报告的骚扰图片数量已经高于人工审查。如果这项工作可以 100%由 AI 完成的话，人们将不需要亲自鉴别这些骚扰图片。”

但是，Facebook、Twitter 和其他平台都需要确保自己的自动审查系统不会成为极权的思想警察。如果设定了过于保守的规则，AI 系统可能会将一些具有价值的争议性艺术和自由表达排除在外。另外，跟大多数的人工智能形式一样，AI 内容审查系统也需要一定程度的人工协调。

新招的3000人将会监控平台的所有内容

Facebook现已有4500运营人来负责评估帖子是否违反服务条款，新招的3000人将会加入原有团队，监控平台的所有内容，不只是直播视频。这些新的运营人员每周都会帮助Facebook审查数百万条被用户举报的帖子。

然而面对海量信息，人力总是不够的。例如每天光在YouTube上就会有近60万小时的视频被用户上传，这几乎要大半个城市的人昼夜不停地观看才能完成审核。Facebook的情况也差不多，所以和其他大型硅谷公司一样，对不良内容的处理除了靠自动化识别，主要还是依靠用户举报，每周用户都会提交几百万份报告，然后公司用人力监督人员评估报告。

“不论扩招多少人，我们都没法审查所有内容。”根据扎克伯格，这次扩招是为了让视频举报变得更顺畅，这样可以及早采取行动。“当有人需要帮助或者想撤下帖子时，我们可以及时响应。”

至于Facebook是否会像谷歌一样选择外包临时工，而新员工又会被安置在哪，尚且没有明确定论。但有一个事可以肯定，请人帮忙审查不能再拖了，哪怕对这些审查员来说，这份工作意味着无休止的机械劳动，长期接触暴力等产生的心理创伤，以及将来某天被人工智能真正完全的替代。