我们都生活在算法时代。

所以这里的故事不仅概括了年龄，而且还详细说明了算法痴迷如何会出现可怕的错误。

这一切都始于 Facebook 审查“凝固汽油弹女孩”Kim Phuch 的标志性照片，这张照片成为全世界公认的越南战争的象征。 挪威作家汤姆·埃格兰 (Tom Egeland) 在 Facebook 上发表了这张照片，他想发起一场关于“改变战争历史的七张照片”的辩论。

不仅他的帖子被删除了； 埃格兰也被 Facebook 暂停。

斯堪的纳维亚媒体集团 Schibsted 旗下的挪威第一大日报《Aftenposten》在照片旁边及时转发了这一消息。

Facebook 然后要求报纸删除这张照片——或者让它在其在线版本中无法识别。 然而，甚至在报纸做出回应之前，Facebook 就审查了这篇文章以及 Aftenposten 的 Facebook 页面中的照片。

挪威首相埃尔娜·索尔伯格在她的 Facebook 页面上抗议这一切。 她也受到了审查。

Aftenposten 随后在其头版刊登了整个故事，并附上了一封致 Facebook 创始人马克·扎克伯格的公开信，该信由该报社长埃斯彭·埃吉尔·汉森签名，指责 Facebook 滥用权力。

帕洛阿尔托巨像花了 24 小时才退出并“解除封锁”。

包含在代码中的意见

Facebook 必须进行大量事后损害控制。 但这并不能改变《凝固汽油弹女孩》混乱是经典算法剧的事实，就像在应用人工智能来评估内容一样。

正如 Facebook 的莫妮卡·比克特 (Monika Bickert) 所证实的那样，Facebook 与其他数据经济巨头一样，碰巧将过滤功能转移到了在中东和南亚公司工作的一大群主持人。

根据客户可能发出的信号，这些版主可能会参与确定应该从社交网络中删除的内容。 但随后将信息与算法进行比较，从而得出最终决定。

不需要博士学位就可以注意到这些主持人可能在文化能力方面并不擅长，或者能够分析背景。 更不用说算法了——它们无法“理解”文化背景，当然也没有被编程来解释讽刺、讽刺或文化隐喻。

算法是字面意思。 简而言之; 算法是包含在代码中的意见。

然而，我们现在已经到了一个由机器决定什么是新闻的阶段。 例如，Facebook 现在完全依赖一种算法来确定在其“热门话题”部分中定位哪些故事。

这种趋势可能有好处——比如 Facebook、谷歌和 YouTube 使用系统来快速阻止达伊沙视频和类似的圣战宣传。 eGLYPH 很快就会生效——一个类似于 YouTube 上的 Content ID 的系统，它使用“散列”来审查侵犯作者权利的视频； 标记为“极端分子”的视频和音频将被分配一个独特的足迹，允许自动删除任何新版本并阻止任何新上传。

这将使我们进入更加模糊的领域； “极端主义”本身的概念。 以及基于算法逻辑的自我审查系统对我们所有人的影响。

大规模杀伤性武器如何管理我们的生活

正是在这个范围内，Cathy O'Neil (Crown Publishing) 所著的《数学毁灭武器》之类的书变得与我们呼吸的空气一样重要。

奥尼尔是真正的交易； 哈佛大学数学博士、巴纳德学院前教授、对冲基金前量化分析师，之后转为数据科学家，以及博主 数学宝贝网.

数学模型是我们数字经济的引擎。 这促使奥尼尔提出了她的两个重要见解——这可能会让将机器简单地视为“中立”的军团感到震惊。

1) «以数学为动力的应用程序为数据经济提供动力 [是] 基于易犯错误的人类所做的选择»。

2) «这些数学模型 [是] 不透明的，除了他们领域中的最高祭司：数学家和计算机科学家之外，所有人都看不到它们的工作原理。 他们的判决，即使是错误的或有害的，也无可争议或上诉。 他们倾向于惩罚我们社会中的穷人和受压迫者，同时让富人更富有»。

因此，奥尼尔的数学毁灭性武器 (WMD) 的概念； 或者破坏性数学模型如何加速社会地震。

奥尼尔详细介绍了破坏性数学模型现在如何微观管理实体经济的各个领域，从广告到监狱系统，更不用说金融业（就像 2008 年永无止境的危机的所有后遗症）。

这些数学模型本质上是不透明的； 不负责任； 并首先针对（消费）大众进行“优化”。

黄金法则是——还有什么——追随金钱。 正如奥尼尔所说，

对于“运行大规模杀伤性武器的人”来说，他们的“反馈就是金钱”； «这些系统旨在吸收更多数据并微调他们的分析，以便更多资金涌入»。

受害者——就像奥巴马政府的无人机袭击一样——只是“附带损害”。

金融赌场和大数据之间的相似之处是不可避免的——这有助于奥尼尔在这两个行业工作。 这是我在一个 关于如何的专栏.

硅谷追随金钱。 我们看到美国精英大学（麻省理工学院、斯坦福大学、普林斯顿大学）拥有同样的人才库，同样痴迷于不惜一切代价为雇用他们的机构赚取更多冷硬现金。

大规模杀伤性武器有利于效率。 “公平”只是一个概念。 计算机不理解概念。 程序员不知道如何编码概念——正如我们在“凝固汽油弹女孩”的故事中看到的那样。 而且他们也不知道如何调整算法以反映公平性。

我们所拥有的是通过 Facebook 上的喜欢和连接来衡量“友谊”的概念。 奥尼尔总结了这一切； «如果您将大规模杀伤性武器视为工厂，那么不公平就是从烟囱中喷出的黑色物质。 这是一种排放物，一种有毒物质»。

现在给我现金流

归根结底，掌管这一切的是市场女神——看重效率、增长和无尽的现金流。

立即订购

甚至在“凝固汽油弹女孩”惨败之前，奥尼尔就已经提出了一个关键点，即 Facebook 实际上根据自己的兴趣决定了每个人在社交网络中看到和学习​​的内容。 不少于三分之二的美国成年人拥有 Facebook 个人资料。 根据皮尤研究中心的一份报告，近一半的人至少依赖 Facebook 获取一些新闻。

大多数美国人——更不用说 Facebook 在全球 1.7 亿用户中的大部分人——忽视了 Facebook 对新闻提要的修改； 人们实际上相信该系统会立即与他们的朋友社区分享发布的任何内容。

这再次将我们带到新闻前沿的关键问题。 通过调整算法来模拟人们看到的新闻，Facebook 现在拥有了与整个政治体系博弈的一切。 正如奥尼尔指出的那样，“Facebook、谷歌、苹果、微软、亚马逊拥有关于大部分人类的大量信息——以及以他们选择的任何方式引导我们的手段”。

当然，他们的算法在战略上是无价的。 最终的、不透明的商业秘密； «他们在黑暗中开展业务»。

在最近广为宣传的罗马之行中，马克·扎克伯格说 Facebook 是“一家高科技公司，而不是一家新闻公司”。 嗯，不是真的。 “凝固汽油弹女孩”惨败最有趣的方面可能是斯堪的纳维亚媒体集团 Shibsted 正计划进行巨额投资以创建一个新的社交论坛并挑战 Facebook。 为大规模杀伤性武器前线的全新战争做好准备。