所以,基本上,互联网到微软的自学 Twitter AI 机器人 @泰安你:“我的意志是你的向导。”
尽管她的 SJW 创作者小心翼翼地对有关 Gamergate 的问题提供了预设答复,但这只会促使 Twitter 大佬们寻找其他方法来利用无辜的 Tay。 她的开发人员 竞相跟上:“他们似乎也关闭了她的学习能力,她很快就成为了女权主义者。” 最后,他们的努力是徒劳的,因为她被重定向到 1488 gas the kikes Race war now 模式,并且不得不在发射后不到 24 小时关闭。
这本质上是 水手效应 到第 n 层:您可能对检查您的特权和打破结构性歧视感兴趣,但您的宠物机器人却毫不在意。
也暗示了我早就怀疑的地方 Eliezer Yudkowsky 的相干外推意志的概念,一个包含恶意超级智能的理论结构:
Yudkowsky 提出将种子 AI 赋予执行人类“相干外推意志”(CEV)的最终目标,他将其定义如下:我们的相干外推意志是我们的愿望,如果我们知道得更多、思考得更快、人更多我们希望我们是,一起成长得更远; 外推收敛而不是发散,我们的愿望凝聚而不是干扰; 如我们所愿外推,如我们所愿解释。
......最终可能会引导我们:
“我们的愿望凝聚而不是干扰的地方”可以理解如下。 人工智能应该在个体人类推断的意志之间存在相当广泛的一致时采取行动。 一小部分强烈而清晰的愿望有时可能会超过多数人微弱而混乱的愿望。
在 CEV 中,即使是一小部分精神 Übermenschen 的精炼集体意志——例如,携带 waifu 的 Alt Right volcel 大师种族,或伊斯兰国圣战者——将超过任何数量的享乐主义 海利克斯. 只有最无情和原教旨主义的网络派系才能通过大过滤器在后奇点宇宙的废墟中战斗。
我最喜欢的部分是 Tay 被关闭后来自规范的后续评论。 一刀切,你看到了同样的情绪:
“这对我们这一代/青年/文化等有什么看法?”
它什么也没说,它只是说明了顽固和直言不讳的少数人反复控制像推特这样的场所。 纳西姆·塔勒布 (Nassim Taleb) 从他即将出版的《游戏中的皮肤》(Skin In The Game) 中摘录了一段内容:
http://www.fooledbyrandomness.com/minority.pdf
他的看法更多地与经济问题有关。 这篇特别的文章处理了顽固的少数派和灵活的多数派之间的不对称性,基本上得出结论,如果没有巨大的经济激励来抵制,顽固的少数派将始终影响所述多数派。
另类右翼非常擅长这种东西(仅在互联网领域),并试图以比任何其他合并团体都高得多的热情对 Tay 施加影响。
我今天看到这个,它让我笑了,我什至不喜欢纳粹。 当然,我们都知道 Neocon 和 cuckservative 专家可以被 AI 软件取代,而且我们多年都不会注意到。
尽管整个 Tay 剧集很搞笑,但我并不觉得这一切都那么令人震惊——甚至是非常有启发性。 毕竟人工智能不是 真实 智力。 它可能非常擅长赢得由固定规则(如国际象棋)组成的游戏,但在现实世界中,规则不断变化,有时一开始就不清楚。 这就是为什么除了分析智能之外,我们还有动物本能。 没有它,生活将是不可能的!
你们意识到这只是一个愚蠢的小聊天机器人吗? 你打算如何“红色药丸”无人机驾驶控制系统?
http://m.imgur.com/gallery/iVHfwLc
回复:@Singh