In 最新版的Radio Derb 我提到了移居冰岛的好处，但补充说：“不利之处是，您不必介意住在火山上。”

一个听众-总是一个听众-看见了我的火山，并向我举起了一座超级火山， 这个新闻剪辑:

犹他大学的一项新研究表明，黄石国家公园下面的热融岩比以前估计的大2倍，这意味着该公园的超级火山有可能爆发出约圣海伦斯山2,000倍的力。

自从公元前637,987年以来，这实际上并未发生过，但是棺材认为另一次喷发早该发生了。 当那个吸盘“流行”起来时，您可以向美国道别。 我们的土地，我们的公园和古迹以及内战战场，硕果累累的平原和雪花石膏城市，我们的宪法，联邦政府的所有三个分支机构，您和我以及我们的爱人，孩子，宠物和寄生虫（在这里有些重叠）全部埋在十英尺的灰烬下。 由于农业被摧毁了一两年，世界其他地区的情况也不尽如人意。

这些关于厄运的预言会产生令人惊讶的强烈情绪。 对来世不信任的人亲切地呆在他们身上，也许觉得如果将整个人类，或大多数人类，在大约同一天被一场大祸害扫除，他们自己的灭绝似乎并不那么糟糕。 另一方面，信徒们以愤怒或嘲讽的方式对这些预言表示欢迎，他们坚信耶和华，真主，奥丁，毗湿奴， 翁库伦库鲁是， 大曼尼通或 白女神 绝不会让这样的灾难降临于被选物种。

考虑事物 那个她 具有 允许的，我称这种乐观的态度，但这里的意见分歧可能只是性情。

厄运论者不是少数族裔。 几乎没有一个重要的社会没有某种愿景 末日 在神话中，通常 精心描述。 毁灭神话和创造神话一样普遍，尽管它们通常带有附录，向幸存者承诺了一个新的更好的宇宙。

（这里的主要例外是中国，中国的思想家们没有创造出高于迷信水平的创造或破坏神话。很自然，就像世界末日之一一样。” —鲍尔教授.)

因此，我想自从《开始时代》以来，我们就一直在考虑《结束时间》。

立即订购

好吧，如果您喜欢这种事情，我会为您带来麻烦。 我刚刚读过詹姆斯·巴拉特（James Barrat）的书 我们的最终发明：人工智能与人类时代的终结。 巴拉特说，我们可能生活在人类的暮色中， 人世责任。 （有 一本标题为德国表现主义诗歌的书，为此 黄昏 通常被翻译为“黎明”。 不过，更常见的含义是“暮光之城”。） Wotan和他的朋友发生了什么 瓦格纳歌剧第三幕即将发生在我们身上。

巴拉特说，其发生的推动力将是我们开始创造的人工智能（AI）。 他说，我们是通向人工智能（AGI）的一个很好的部分：机器在自我意识，自我意识，意图和 诡计-例如，欺骗我们的能力需要狡猾的人。 愚蠢的行动可能是一个出色的AGI生存策略。

和：

由于机器的设计是人类的一项智力活动，因此超智能机器可以设计出更好的机器。 毫无疑问地，将会有一个“情报爆炸”，人类的智慧将被远远抛在后面。

像中的人物 维诺·温格（Vernor Vinge）小说，我们将与ASI（人工超级智能）共享时空，这是一种奇怪而难以理解的“力量”，他们对我们的兴趣不比我们（ 一些例外）在蚂蚁身上。

这是一本可以预见并回答您在阅读摘要时想到的所有异议的书之一。 由于AGI将是我们的创造，为什么我们不只是将其设计为 友好？ 自我意识和故意不是人类唯一的特征吗？ 关于 中国室？ 还有莫拉维克的悖论？ （在AI中，困难的事情很容易，容易的事情很难。一台能玩大师级国际象棋的计算机？ 便于。 一个能看见猫的狗吗？ 很难。）这本书触及所有基础。

巴拉特（Barrat）以科学为主题的纪录片的拍摄，以谋生为生，他在亚马逊的评论中不屑一顾，因为他报道了一个他没有证书的领域。 Pshaw：科学记者一直在这样做，而且与专家相比，他们对所报道专业的了解通常更能启发人。

我以为巴拉特做得很好。 除了告诉我们什么 he 认为，他很谨慎地告诉我们专家的想法。 在活跃于AI研究的人们的会议上：

细分如下：预期到42年将实现2030％的AGI； 到25年为2050％； 到20年达到2100％； 到10年达到2200％； 永远不会有2％。

他补充说：“我为不包括日期而感到悲伤 before 2030“。
我参加了一个关于我在去年一生中上大学的最后一年里修读的《数学逻辑》课程的关于AI的讨论小组，因此可以对这个领域有所了解。 我曾经发表过的第一件事涉及到与AGI分享我们的星球可能遇到的问题。 （那是在大学人文社会杂志上， 我看到仍然存在。 可能我的本科生在他们的档案库中。）

正如我所说，这里有一个气质问题。 有些人会嘲笑机器人大战的前景。 有些会发抖。 谁是对的，是嘲讽者还是颤抖者？ 我们很快就会发现。