净网特工

“我觉得这项工作本事的存在就是一个秘密” 冲击性内容具有其绝对重要的含义这不仅仅关于ylzj的范畴 我是支持一定限度的审查许多不适内容对价值观未建立的小孩来说是很有破坏力的但一定是有限度的而我们是没有限度的除此之外任何言论都应该允许存在否则你是在歧视民众的受教育程度而受教育程度是你决定的这个电影应该使用中国社媒的素材不能因为“因为你是一时的不冷静而说出的不严谨的话就煽动的仇恨情绪导致最终却mz受害”而否认ylzj的重要性你认为你很道德你是在助纣为虐

像fb这样的垄断型大企业，你说他搞审查是完全出于对使用者身心健康着想，才偷偷摸摸在第三世界国家录用这么一大批低学历打工者负责审核，我是完全不信的，这里不可能没有经济利益和政治立场的考量。

毕竟我在推特和脸书看到的关于中国的很多视频，有些比较血腥暴力色情的，他是没有删除的，你能说他们一点政治立场都不站吗？如果在脸书，一个内地的和台湾的骂起来了，内地的被举报会被封号，台湾的毛事没有，你说这里面没立场吗？我踏马是完全不信的。

抛开政治不谈，只看有没有权利审核。我觉得权力这个事，和脸书等媒体的垄断地位是分不开的，他的规模太庞大了，全世界都在使用，除非你不用。他当然没有资格审查，没有资格替别人的大脑做决定该怎么思考，但是一个垄断性大型私企，不是普通使用者能控制的，那就变成他怎么说怎么有理，你没办法。

脸书这类大型垄断媒体自认为可以审核使用者，但是，谁又来监管他们呢？谁在为他们站台，他们背后有没有被谁操纵？我们都不知道！！！！

内容审查员就像是一名狙击手，我们的目标是违反应用程式规定的用户。 我妈妈总是告诉我，如果不好好读书，就只能跟她一样当个拾荒者，他们依赖捡垃圾为生，这是他们唯一知道的谋生方式。我害怕自己将来只能留下来跟着捡垃圾，这也是促使我用功念书的一个原因。 2016年1月，我画了一张男性器官很小的川普画像，叫做“让美国再次伟大”，它立刻爆红，数百万人在许多社群平台上疯传，几天后川普在竞选辩论中提到自己的器官尺寸，我记得有朋友打电话告诉我说，是你让川普在辩论中透露他的器官大小吗。 作为内容审查员，你必须要有原则，是你在决定人们是否该看到某张图片，所以头号重大错误就是批准裸照、 和女性胸部、男性器官，这没有容忍的余地。 一个虚构的作品，它并不暴力，也无关性爱，它只是一个人的裸体配上川普的脸，不懂为何人们会觉得人的裸体这么恶心。 这工作真的不好做，但最后却成了带罪恶感的乐趣，感到罪恶是因为我居然在看这样的东西，乐趣是因为我现在很享受看到的内容。 脸书基本上就是一家科技公司，有许多工程师经营，它重视自家产品，重视公司设施，它重视发展规模，重视用户体验，但它不是一家媒体公司，它不会考虑到内容或内容创作，或是内容编辑和审查的事，这些事并不在它的基因里面，只要脸书碰到有人说，“嘿，你们要为这内容负责的时候，他们的答复会是，‘哦，我们只是搞数学的，我们只负责写演算法，去提供你们想要的东西，我们不干涉编辑’”，但政治现实是在川普之后，在英国脱欧之后，这样的说法已经不行了，我们现在在一个点上，只要大众不接受现状，在某些点上政府就会立马介入，我认为脸书是了解这情况的。 YouTuBe一直希望能够跨越国界，因此从2007年左右，我们遭遇许多被封锁的情况，当土耳其政府不知如何与你取得联系时，他们索性关闭你在该国的服务。我们花了一段时间才弄清楚，是什么令他们感到不舒服，我们最后终于设法掌握了令他们不开心的特定影片，其中有些是关于凯末尔，有些则是他们声称违反土耳其法律的恐怖主义影片。我记得有一天我在凌晨两点，审查令土耳其政府感到不快的67个影片，从中做出哪些应该删除，哪些应该留下的决定，有个重点是对于一些影片来说，它们其实没有违反社群准则，所以一般不会从平台移除，可是却触犯了土耳其的法律，所以我们决定对土耳其用户采取IP位置封锁，土耳其用户将无法看到这些影片，我不喜欢这种解决方式，但这就是我们的做法。 街上聚集了许多了不起的人，警方在这里部署的人数相当多，我很好奇他们会在这里待多久，因为我知道只要他们一撤离，人们就会开始干架。 一些左派人士认为你政治不正确，我们这群人拥有枪支、子弹，受过训练，只要我们开始开枪射杀，我相信所有的赃东西很快就会消失。 人性归人性，而科技就只是种中性工具，并没有助长任何东西，但事实并非如此，因为科技确实存在偏见，偏见就是它实际追求的一个目标，那个目标就是什么才能得到最多人的关注，什么才能吸引数十亿人，成功转移他们的注意力，并且保持下去。 这项工作会损害你的大脑，让你觉得暴力是正常的，让你认为杀人，轰炸是正常的。 我不能让影片影响你，但这因人而异，有些人就是会受到画面的影响。 我突然自己，为什么要做这份工作，只是为了让人们认为上网是安全的，事实上在你的日常工作中，上处都是危险，我们在奴役自己，我们应该从麻木中觉醒，因为这并不安全，我们应该正视现实。 选择希望而非恐惧这需要勇气，期许我们可以建立比过去更加良好的环境，你必须乐观的认为你可以改变世界，我们投身其中，每一次都是一种联系，每一次都是一种创新，日复一日，日复一日，这就是为什么我认为我们一起投入的工作，现阶段比以往任何时候都重要。

技术、媒介是中性的吗？傻子都知道不是。不然也不会有网瘾和杨永信了。

反过来看，而互联网曾经承诺的“连接每一个人”的乌托邦，在当今现实里的大图景到底是什么样子？

社交媒体，在总体上，是否将把我们的世界变得更好呢？

这几年对互联网和智能手机全球性地改变人的行为的嘲讽或自嘲也不少见了。

前不久又爆出脸书向剑桥分析泄露5000万用户而被用来操控选举的新闻。

上个月中下有哥本哈根纪录片电影节，偶然去看了这部 《清理者》The Cleaners。

片中播放了去年年末美国法庭关于 俄罗斯和2016年大选 Russia and 2016 Election Investigations 的调查。法官质疑，这三大公司的内容环境受到国际政治力量的左右，影响选民，以及被用来组织、散播、宣扬非人道的行动。唯唯诺诺中互联网公司的法律负责人（我不确定这里使用的名词是准确的）说到了自己外包了大量的员工来审核内容的事实。而脸书透露出，他们雇佣的审查者居然有数千人之众，而且未来还会继续增加人数。

——这些被雇佣的网管就是本片的主角，他们内部自称为“内容仲裁者”content moderator，所谓的“清理者”。这是一个驻扎在菲律宾马尼拉的公司，而他们的职业对于外界是一个秘密。

影片开始的时候，镜头在一间典型的现代白领办公室里，关着灯，只有一个人操作着一台亮着的电脑，并只能看到这个人面部的局部。背景音不断回放着，“删除”delete/“无视”ignore/“删除”delete/“无视”ignore……随后镜头跟随同一个主角描述ta夜晚上班的场景，穿过熙攘、喧闹、混杂的马尼拉的城市街道、高架桥，进入一栋漂亮的办公楼。在喧闹拥挤的亚洲城市里，做一项秘密却关乎数十亿人口的工作。这就是他们的工作内容，而操作看起来如此的简单，就是审核每天从全世界上传的上百亿的照片、图片，然后决定是要保留还是删除。

脸书内部关于上传信息内容规定的条例相当复杂，关于对暴力、色情的内容判定是否删除的规定，有一百多条。然而在去年被卫报曝出来以前鲜有人知。被采访者包括Google的负责人、工程师，面对镜头，检讨公司创始人们对中性技术的美好设想并没有尽到相关的责任；而另一方面也列出了关于支持自由者的质疑，包括一些内容被删的艺术家、摄影师。

“这些规定也让自由言论倡导者担忧。他们认为，Facebook可能已经成为了世界上最大的审查员，该事实敲响了言论自由的警钟。”

脸书提供的强大平台，涉及了一系列冲突明显的社会问题，包括美国内部的种族，西欧对移民的态度——到底是发泄不满，还是有组织的政治立场，这两者界限模糊。以ISIS为例的恐怖组织也在借脸书宣扬自己的。片中截取的片段。蛋最让我看不下去的是缅甸迫害罗兴亚人，一个母亲对着镜头哭诉自己的家庭怎样被迫害。——这种原本平缓融洽的文化混杂，被西方殖民者弄得互相仇视的例子早就不新鲜了。

传播能力的扩大，既然足够提供人与人的连接，也可以能让人与人更加分裂。爱是可以被传播的，那么仇恨也可以；敌意、仇视、偏见，技术本身不会过滤任何人人心里的东西。

回到清理者们，这项工作是否看起来十分简单？

然而，到目前为止机器/ AI还没有能力处理人类复杂的认知和表达。光是言论，根据不同的语境，是发泄情感还是表达真实意图都难以判断；再加上图像、视频中更加复杂微妙的视觉语言，机器对此无能为力。而这些内容仲裁者也有很大的负担：他们的神经每天要处理25000项图片或视频，而对每一张图片最多只有8秒钟做判断。这对大脑是巨大的负荷。

更糟糕的是，他们要经手的材料大多都是令人不适甚至不安的内容：色情、虐待、战争、恐怖组织的非人道行为——尽管在正式工作之前已经被训练去应对这些内容，但仍对他们的日常生活也造成困扰，也包括道德上的处境。

开头的场景展示了他们的两难处境，深处闹市，却做着全世界的网管，而工作内容也不能让身边的人知道——他们需要一个让自己心安理得的身份，当然也需要这份得体的薪水；他们不得不相信自己确实是在有尊严地维护秩序。很多人也因为上面这些原因放弃了这份工作。

技术到底带来了什么呢？纪录片的好处是，导演呈现给你的是各方视角和立场。这个问题暂且还不会有结论。

它是给我们所有人的问题。

片头片尾，截了两段扎克伯格对公众的演讲；看他如何表情坚定、豪迈地谈论脸书如何能够成就新的未来。

然后片尾字幕亮起，意味深长，留下片场一片唏嘘。

“太可怕了。太可怕了。”

我跟波兰的好朋友聊起感受，感觉出来的大概是对全球网络的这种无序状态和其无解的担忧。——就他所言，人们还是倾向于相信，世界是需要秩序的；但由谁来引导呢？现在的声音越来越多、越来越庞杂，到最后就是谁也不服谁。朋友说，这里为什么美国人会雇佣菲律宾人就很玩味了——菲律宾是个天主教国家，在价值观上跟西方基督教世界更相通。

技术悄然滋生的权力绕过了所有人的眼睛，但信息审查是真实存在的。（你看，我们的互联网环境在世界上也没有那么特殊嘛）

过去的“信息集权”提供了同一套世界的框架；哪怕你要质疑某个事实，要叫骂对着的也是同一个屏幕。而今天每个人都在自己的屏幕里接受现实，在传送到自己眼前的信息流里，营造自己世界的小泡泡——而且老一辈还带着上个时代的惯性：“那么多人都看了的信息，能不是真的吗？”。但外面还有个过滤的大泡泡呢。

信息是种权力无疑；我想对于很多人，这部片的隐喻是，我们以为今天的时代走向的是美丽新世界，其实背后并行着一个一九八四。——反正我对这种自由斗士的论调保持怀疑；有时不免有点“见到短袖子就想到裸体”的意思。

尼尔·波茨曼早在60年代就在《娱乐至死》里说过的话，到今天仍然适用：从有广播、新闻报纸、电视开始，这个世界的行动跟信息比率越来越小了，我们关注的大多跟自己眼前的事实、跟自己的生活无关。大多数事情不需要关注。而这个世界本身运行机制的复杂程度，远远超出一般普通人所能理解；这种理解也许是不必要的。 我们自己，是在为这个世界带来了更多的噪声，还是更多的秩序、平和呢？这个问题，互联网不会回答我们，技术也永远不会回答我们。

靠点击就能得来的东西并不真的属于我们自己。

这个世界会好的。不是因为技术，而是因为我们在把自己变好。

网络审查员，社交媒体的“清洁工”，日复一日地重复着高强度的工作。按照一定的指标，定时定量审阅、翻看各式文字信息、图片和视频。一般情况下，他们会签订不可外泄工作内容、工作情况的合同。换句话说，是在大众视野中“不存在”的职业。

网络审查的意义及局限

网络审查如同防波堤修筑，一方面，它阻止了常规意义上的违法信息（如涉及政治敏感话题、情色等内容的图片、视频）在社交网络平台、互联网空间上传播；另一方面却永久地改变了互联网的生态环境，对合理诉求范围内的自由表达、资源信息共享和完整程度造成了一定程度的损害。

网络审查，能够使平台监视发布内容并作合理化处理，包括防止儿童色情物品的扩散、察觉恐怖主义活动于未然、防止网络霸凌等。在目前的认知范围内，以及网络审查员们所接受的培训中获取的信息一样，这是有益于网络平台建设、为大众提供尽可能美好事物的工作。

但网络审查常规情况下分为发布前的审查和举报后的审查，一个可能削减用户体验，一个可能导致不良信息漏审漏查。因此在这种情况下，需要在人工智能识别的基础上，投入大量人力资源。局限也因此不可避免。

运营公司作为企业，其经营目的难免不以赚取利益为主。这也是为什么在像土耳其一样严格限制了Facebook、Twitter、YouTube等网络巨头的功能和内容后，各大公司依然不肯放弃此国市场一样。因此在相互妥协的情况下，就会增大网络审查力度的加大。同时由于不同地区国家对于敏感信息的定义不同，所以同一个视频、一张图片可能会被公司做上IP地址的屏蔽，来满足市场需求。

土耳其对互联网内容的审查非常严格

而协助完善网络审查的，是各个有着不同价值观但是却有着类似培训经验的人们。他们在平台、外包公司背后，进行着形形色色内容的审查，决定是应该“忽略”还是“删除”相关内容。虽然有着基本的规定，但也会因个人判断而产生对同一内容的判断出入。而上层决策者与基层执行者之间的断层，也会成为审查内容限制不一的原因之一。

对工作人员作出的判断，上司并不完全掌握。为评估审查员业绩而挑选的样本数量只占整体的3%。这就是业绩评估的现状。

数据流量峰值绘图

企业有意识地对用户发布内容进行裁量取舍，这一倾向逐年明显。他们利用了我们贪图轻松不胜其烦，不愿付出努力的弱点。或许为时已晚，但若长此以往，我们本来具备的批判性思维的能力、克服困难的能力都会衰退。对言论自由设限，也就是对挑战精神和奋斗精神设限，如果不允许刺激社会，今后人们所能获得的信息量将越来越少：尖锐意见、挑战性表达方式都将从网上销声匿迹。如此我们的社会很难称得上是丰富多彩的社会。

联合国言论自由特别报告员，戴维·凯伊在纪录片中说道。

而这一现象，恰恰很有可能造成人们批判性思维的逆向打压，通过身边熟悉的事物，一点点地增多门槛，最终促成个人、平台在日常表达上的自我审查。最终哪些是正确的，哪些是可以发布的内容，都已经无法判断了。

娱乐至死

8.5

[美] 尼尔·波兹曼 / 2015 / 中信出版社

初版诞生于1985年的《娱乐至死》，早已预见到，在信息碎片爆炸化的时代下，娱乐业的发达也会对人们健全思维的形成产生一定的影响。（虽然本书的观点有一部分比较偏激，但叙述中的可信服的还是存在）“娱乐至死”时代下的自我审查，无疑是社会进步的巨大绊脚石。

而纪录片中指责的承担这重大责任和社会意义的互联网公司，在相关领域的审查作用微乎其微。不仅无法为每天饱受各种图片、视频折磨的网络审查员足够的心理后盾支援，还在部分市场起到了消极的带头作用。透过各家网络审查员的叙述，我们可以窥到现状的轮廓：在可以无拘无束地片面、自由表达自己观点的今天，好的结果是赚取流量，成为网络红人；坏的结果顶多是发布内容的删除和帐号的封停。（在部分国家或地区）

贯穿影响现代人生命的互联网的影响力日渐提高，网络审查员的工作个体差异性太大且得不到保障。随着人工智能等科技的进一步发展，和“当代网络审查员”经验的积累，不久的将来，或许不会是硅谷“智者”们所期待的那样。

你知道为什么有的微博内容会被官方删除吗？你知道为什么B站博主发的视频有一些不能通过审核吗？你知道为什么微博热点会被撤下吗？……这些背后存在着特殊的工种，那就是“网络审查员”。

《网络审查员》是我无意间在微信公众号看到的，吸引我的就是它的特殊，这是我从未听说过也从未关注过的一个工种。出于好奇，我利用下午的空闲时间将其看完。

这篇影片是纪录片，它讲述着一群网络审查员的真实工作。什么是审查员？就是网络的清道夫，清理不符合规定的图片，影片。他们是由互联网一些平台比如脸书，推特等等来和菲律宾的外包公司合作，清理网络上的罪恶（黄色内容，反政治言论，血腥暴力等）。塔曼的工作看似简单，实则不易。

在菲律宾，很多工作的薪水都很微薄，为了能够获得好点的生活，会有一些人选择了网络审查员这个工作。有个女孩面试的时候，看到的视频是恋童癖，一个女孩正在进行口交，而另一个影片则是，一个女孩身上都是精液。对于这些画面，她无法忍受，但因为工作需要，还是要克服自己心中的那个坎。另一名女审查员在步入这个行业之前是很单纯的，一些敏感词比如肛交之类的含义她并不清楚，为了这份工作，她甚至通过看性爱片进行学习这些词。除此之外，因为全球化劳动力，对于审查的内容多数是来源于其他国家，而对历史背景一无所知的情况下，审查的难度就会增加。

在审查的眼中，有些艺术不得不删除。有个女艺术家画了一个川普裸体，并且画上了一个很小的生殖器。虽然审查员知道这幅画表达的意思是，川普的能力和他的生殖器一样弱，不适合领导美国。但是涉及到裸体的图片是审查的底线。尽管艺术家自己认为，为什么会有人觉得裸体恶心。还有一个摄影师，他对叙利亚十分关注，他将一个溺水的小男孩发布到他的脸书上，不到三天就被删除。虽然他想呼吁战争的可恶，政治间的博弈造成无辜生命的丧失，但是影片涉及到sisi影片，审查员不得不删除。

审查在一定程度上，阻挡了黑暗，但也阻挡了真相。叙利亚战争的打响，很多难民都会通过手机记录真实的情况，最后却无法过审。

联合国言论自由权特别报告员说“这些公司越来越多权力决定什么留下什么撤下，利用人乐于安逸，讨厌努力，讨厌挑战的心态。随着时间的推移，总有一天，丧失我们进行批判性思考能力，妨碍接收挑战的能力，造成限缩言论。”

网络审查员的本质是不容犯错，他们决定着人们将会看到什么。而看到的这些东西，很可能引发战争，霸凌，犯罪现象等等。所以他们小心翼翼。这是一项不轻松的工作，更是一份艰巨的责任。有些黑暗是光无法到达的地方，只有审查员能替我们前往。虽然有利有弊，但是利大于弊总是好的。

（摘抄：社交媒体是中性的，不会助长什么，但如何才能吸引眼球增加关注是原因，而愤怒是最有效的诉求。）