我传闻未来的核算机人工智能会变得比咱们还要聪明得多，它们将夺走咱们全部的作业和资源，而人类将会灭绝。这是真的吗?
这是我每次议论人工智能时最常碰见的问题。发问者是仔细的;他们的忧虑部分源自于一些会问自己相同问题的专家。这些人都是当今世上中最聪明的一部分集体，比方史蒂芬·霍金、埃隆·马斯克、马克思?泰格马克(译注：Max Tegmark，MIT 物理学家，著有《平行国际，平行生命》)、萨姆·哈里斯(译注：Sam Harris，《自在毅力》一书作者、神经科学家、哲学家)和比尔·盖茨，而他们以为这种状况很或许是真的。最近，在一个有关人工智能问题的评论会上，一组由九位最闻名的人工智能大师组成的专家小组一同以为，这种超人类智能是不可避免的而且离咱们并不悠远，可在这儿查看他们的评论：
可是，超人类人工智能接收人类的状况是有五个假定作为条件的，假如一一对其进行查看的话会发现它们并不根据任何依据。这些说法在未来或许是真的，但到现在为止还没有依据作为依托。行将成真的超人类智能背面的这些假定是：
假如对一个超人类人工智能接收人类的预期是树立在五个没有依据根底的要害假定之上，那么这个主意更相似于一个宗教信仰——一个神话(myth)。鄙人面的阶段中，我别离扩展了对这五个反假定的依据，并举例说明，实践上一个超人类人工智能便是一种神话。
一
关于人工智能最常见的误解始于对天然智能的遍及误解。这种误解以为智能是单一维度的。大多数技能人员往往以 Nick Bostrom 在他的书《超级智能(Superintelligence)》中所运用的办法——作为标明起伏增加的一个逐字的单维线性图——来描绘智能。其间一端是低智能，比方某种小动物;另一端是高智能，比方一个天才——就好像智能是一个以分贝来标明的声响巨细等级。当然，之后就很简略进行延伸幻想，智能的响度继续增加，终究逾越咱们自己的高智能，成为一个逾越人类的超级嘹亮的智能办法——一声吼怒!——乃至或许越出图表的规模。
这种模型的拓扑结构相当于一个梯子，因而智能的每一个梯级便是一层层地递加。劣等动物坐落咱们下面的较低层，而更高等级的智能(也即人工智能)将不可避免地逾越咱们而登上更高的阶梯。这种状况产生的时刻规范并不重要;重要的是排名——这是智能增加的方针。
这个模型的问题在于其本身是虚拟的，就像进化的阶梯。在达尔文之前人们假定天然国际有一架生物存在(being)阶梯，其间低等动物居于人类下面的阶梯上。即使在达尔文之后，一个十分遍及的概念是进化阶梯，其间鱼类进化成爬虫类，然后进入哺乳动物阶段，继而进化为灵长类动物，最终进入人类阶段，每一次进化都比之前愈加高档(当然也愈加聪明)。所以智能的阶梯与存在的阶梯是平行的。但这两种办法都供给了一个彻底不科学的观念。
一张更精确的物种天然进化图是一个向外辐射的圆盘，就像由德克萨斯大学的 David Hillis 初次规划的这张图(上图)那样，它是根据 DNA 的。这个深度宗谱曼陀罗以最原始的生命办法从中心开端，然后在一段时刻之后向外分支。时刻向外移动，使得居于该星球上最近期的生命物种构成了此圈圆周的周长。这幅画着重强调了一个难以了解的进化方面的底子实践：现世存在的每一个物种的进化程度都是持平的。人类与甲由、蛤、蕨类植物、狐狸和细菌一同存在于这个外环上。其间的每一个物种都阅历了一个跨度三十亿年的成功繁衍的完好链条，这意味着现在的细菌和甲由与人类的进化程度是平等高档的。并不存在阶梯。
相同，也不存在智能阶梯。智能不是单一维度的。它是多品种型和认知办法的综合体，每个都是一个接连体。让咱们做一个十分简略的使命：丈量动物的智能。假如智能是单一维度的话，咱们应该就能将一只鹦鹉、一只海豚、一匹马、一只松鼠、一只章鱼、一只蓝鲸、一只猫和一只大猩猩的智能依照正确的升序方位排列成一行。而咱们现在还没有支撑该排序成果的科学依据。其间一个原因或许是：动物智能之间没有差异，但咱们也无法证明这点。动物的考虑办法差异显着。但或许它们有着相同相关的通用智能(general intelligence)?或许是这样，但咱们无法丈量，也没有衡量该智能的单一方针。相反，咱们针对许多不同类型的认知类型有着许多不同的方针。
一个更精确的智能模型是要制作出它的或许性空间(possibility space)，而不是一条单一的分贝线，如上图中由 Richard Dawkins 写的算法所创造的或许办法的烘托。智能是一个组合的接连体。多个节点，每个节点都是一个接连体，创立高度多样性的高维复合体。有些智能或许很杂乱，有许多思维的子节点。其它的或许更简略，但也愈加极点，处于空间的某个偏僻旮旯。这些咱们称之为智能的复合体能够被以为是包括多种乐器类型的交响乐。不只在响度方面，它们在音高、旋律、音色、节奏等方面也有差异。咱们能够把它们看作生态体系。从这个意义上说，思维的不同组成节点是相互依存而且是被一同创造的。
用 Marvin Minsky 的话来说，人类的心智便是心智社会(society of minds)。咱们运转在思维的生态体系之上。咱们包括多品种型的认知，这些认知做着许多类型的考虑：演绎、概括、符号推理、心情智能、空间逻辑、短期回忆和长时刻回忆。人类内脏之中的整个神经体系也是一品种型的大脑，有其自己的认知办法。咱们并不是真的仅仅用脑子考虑;而是用全身进行考虑。
各个个别与物种之间的这套认知体系各不相同。一只松鼠能记住几年前寄存几千粒橡子的切当方位，这是人类思维难以办到的。所以在那一种认知中，松鼠是逾越人类的。那种超才干包括了一些与人类才干比较并不显着的其它办法，从而会产生一只松鼠的思维。在动物王国中，还有许多比人类优胜的其它认知特长，再次被包括进不同的体系中。
人工智能范畴也是如此。人工心智在某些维度上现已逾越人类。你的核算器是数学方面的天才，谷歌的回忆在某一维度上现已超出了人类自己的回忆才干。咱们正使人工智能在某些特定办法中被规划为最佳。其间的一些办法是咱们人类就能够完结的，可是它们还能够被规划得更好，比方概率或数学方面。其它还有一些咱们人类底子无法办到的思维类型——记住六十亿张网页上的每一个词，这是任何搜索引擎都具有的技能。在未来，咱们将创造一种全新的认知办法，这种办法不存在于人类身上，也不存在于任何生物学范畴。当咱们创造人工飞翔机时，咱们受到了生物飞翔办法的启示，首要便是拍动翅膀。可是咱们创造的这个飞翔机——-螺旋桨固定在一个固定宽翼上——是一个新的飞翔办法，它在咱们的生物国际中是不知道的。这是天壤之别的飞翔办法。相同，咱们也会创造天然界中不存在的全新的思维办法。在许多状况下，它们都会是针对详细作业的那些新而狭隘的小型详细办法)——或许某品种型的只在统计学和概率论中有用的推理。
在其它状况下，新的心智将会是杂乱类型的认知，咱们能够用它来处理单凭人类智能所不能处理的问题。商业和科学中的一些最困难的问题或许需求一个两步处理计划。第一步是：创造一种新的思维办法与人类心智一同作业。第二步：结合二者以处理问题。由于咱们正在处理的是之前所无法处理的问题，因而咱们想要将其称为比咱们聪明的认知，但实践上它与咱们是不同的。思维的差异是人工智能的首要优点。我以为一个有用的人工智能模型便是把它看作是外星智能(或人工外星人)。它的异质性将成为其首要财物。
一起，咱们会将这些不同的认知办法整合到愈加纷繁杂乱的心智社会中。其间一些复合领会比咱们人类愈加杂乱，而由于它们能够处理咱们不能处理的问题，因而有些人会想称其为超人类。但咱们不会把谷歌称作是一个超人类的人工智能，即使它的回忆才干在咱们之上，由于在许多作业上咱们能够做得比它更好。这些人工智能复合体必定会在许多方面逾越咱们，但没有一个实领会具有全盘的胜算。这相似于人类的体能。工业革命现已继续了 200 年，而当全部机器作为一个能够打败单个人的体能成果(跑步速度、举重、精细切开等)的类别时，却没有一台机器能够打败一个普通人所做的全部作业。
即使某个人工智能中的心智社会变得愈加杂乱，这种杂乱性在现在还很难被科学地衡量。咱们没有杰出的杂乱性操作方针能够用以判别黄瓜是否比波音 747 更杂乱，或许它们的杂乱性或许会有所不同。这也是咱们没有智能度方面的杰出方针的原因之一。要确认心智 A 是否比心智 B 愈加杂乱是一件十分困难的作业，智能度的比较同理。咱们很快就会到达那个显着的认知上来：「智能度」不是单一维度的，而咱们实在关怀的是智能作业的许多其它办法——咱们没有发现的全部其它认知节点。
二
有关人类智能的第二个误解是咱们关于通用智能的信仰。这种重复的信仰影响了人工智能研讨者的一个常见的既定方针，即创造一个通用人工智能(AGI)。可是，假如咱们以为智能供给了一个很大的或许性空间，那么就不会存在通用状况。人类智能并非处于某个中心方位且周围有其它的特别智能绕其旋转。相反，人类智能是一种十分特定类型的智能，现已演变了数百万年，使咱们的物种生计在这个星球上。在全部或许的智能空间映射中，人类智能类型将被困在某个旮旯，就像咱们的国际被困在宽广的星系边际相同。
咱们当然能够幻想乃至创造出一个瑞士军刀类型的思维。它或许在许多作业上都能表现得不错，但没有一个会特别好。人工智能将遵从相同的工程学准则，这也是全部事物被创造和创造全部必要遵从的准则：你不能优化每一个维度。你只能权衡。你不能让一个通用的多功用单元去优于那些特定的功用。一种每件事都做的大心智不能在每一件事上都做到和那些专用署理相同好。由于咱们以为咱们人类的心智是通用的，因而咱们往往以为认知不契合工程师的权衡，那么就有或许树立一个最大极限行进全部思维办法的智能。但我对此没看到任何依据。咱们仅仅没有创造满意的心智类型来调查整个空间算了(而且到现在为止，咱们现已倾向于把动物的心智作为单一维度上一种起伏可变的单一类型来看待。
三
这种最大化通用思维的一部分信仰来自于通用核算的概念。后者在 1950 年被正式描绘为丘奇-图灵假定(Church-Turing hypothesis)，该猜想以为，满意必定阈值的全部核算都是等价的。因而，全部核算都具有一个遍及的中心，不管它是产生在一台具有许多快速或缓慢作业的部件的机器之上，或乃至所以产生在一个生物脑中，它们都遵从相同的逻辑进程。这意味着你应该能够在能够做通用核算的任何机器上模仿任何的核算进程(思维)。奇点论者关于制作硅脑来持有人类思维的期望便是依托这一准则，他们信任咱们能够造出像人类相同考虑的人工心智，仅仅后者愈加聪明。咱们应该对这种期望持怀疑态度，由于它依赖于对丘奇-图灵假定的误解。
该理论的起点是：「给定无限的磁盘空间(内存)和时刻，全部核算都是等价的。」问题是在实践中，核算机并没有无限的内存或时刻。当它在实践国际中运转时会产生巨大的实时差，这通常是生与死的时差。是的，假如你疏忽时刻，全部的思维都是等价的。是的，你能够在任何你想要的矩阵中模仿人类类型的思维，只需你疏忽时刻或实践生活中的存储和回忆束缚。可是假如你归入时刻要素，那么你就得以一种重要的办法对该准则进行重申：在间隔很大的渠道上运转着的两个核算体系不会是实时等值的。还能够这样说：取得相同思维办法的仅有办法是让核算机运转于相同的渠道基底之上。运转核算的物理物质——特别是当它变得愈加杂乱时——会极大地影响实时状况下能够被完成得很好的认知类型。
我将更进一步并断语：取得一个极端类人的思维进程的仅有途径，是将核算运转在相似人体那样的湿安排之上。这也意味着，运转在枯燥芯片之上的极端巨大而杂乱的人工智能会产生大而杂乱的非人类思维。假如能用人工成长的神经元来构建人工湿脑，我猜想它们的思维与咱们的会愈加相似。这样一个湿润大脑的优点正比于基底与人脑的相似度。创立湿件的价值是巨大的，而该安排与人类脑安排越挨近，那在本钱效益上就越不如直接制作一个人类。究竟，制作一个人类是咱们在九个月之内能够做到的作业。
此外如上所述，咱们是用自己的整个身体进行考虑，而不仅仅运用脑筋。咱们有许多的数据显现出咱们的内脏神经体系怎样辅导咱们的理性决议计划进程，并能够猜想和学习。咱们越多地模仿整个人体体系，咱们就越能够仿制它。运转在一个十分不同的身体(枯燥的硅片而非湿润的碳基)之中的智能，其考虑办法也不相同。
我不以为这是一个 bug，而是把它看做一项特性。正如我在第二点中谈到的，与人类不同的思维办法是人工智能的首要财物。这也是为什么我以为称它比人类聪明是一种误导的另一个原因。
四
超人类智能(superhuman intelligence )的中心——特别是智能将自主改善这个观念——是智能不存在开展极限的底子信仰。不过我没有找到任何支撑该结论的依据。再次，将智力误解为评判的仅有规范助长了上述信仰，不过咱们也仅需求将其了解为一个信仰即可。就现在科学所知，国际中不存在无限的物理规范。温度的凹凸不是无限的——低温文高温都是有限的。同理，时刻、空间、速度都非无限。或许数字是无限的，可是其它全部的物理特点都是有限的。按理说人类理性本身也是有限的。所以问题就成了：智能的极限在哪里?咱们倾向于信任这个极限远非咱们所及，这种间隔就犹如咱们与一只蚂蚁的间隔一般。抛开一向重复呈现的「仅有规范」问题，咱们有什么依据来证明这个极限就不是咱们呢?为何咱们就不能作为这个最大极值呢?亦或是这个极限距咱们不远?为何咱们要信任智能便是能够永久扩展下去的呢?
一个考虑这个问题更有用的办法是，将咱们人类的智能视作百万种或许智能的一员。所以，虽然每种认知才干和核算才干都存在一个极限，可是，假如存在成百上千种，那么便会稀有不清的繁复的思维存在——它们其间没有一个在任何层面上是无限的。当咱们构建或是遭受这些思维的时分，咱们或许会很天然地以为它们其间一部分现已逾越了咱们。在我最近初版的《必定(The Inevitable)》一书中，我勾勒出了这一部分在某种层面比咱们高档的思维存在。以下是一份不完好的表单：
一种相似于人类心智的心智，仅仅答复速度更快(能够想到的最简略的人工智能心智)
一种十分慢的心智，首要由巨量存储和回忆构成
由数百万单个较为笨拙的心智联合构成的大局超级心智
由许多十分聪明的心智构成的蜂巢心智(hive mind)，但并不知道它/它们自己是一个蜂巢
一种半有机半机械(borg)的超级心智，由许多十分聪明的心智构成，这些心智也清楚自己自己构成了一个联合体
一种被练习用来专用于增强你的个人心智的心智，但对其他人没什么用途
一种能够幻想更好的心智的心智，但不能创造它
一种能够创造更好的心智的心智，但对自己还不够了解，所以无法幻想它
一种能够创造出更好的心智的心智，只能创造一次
一种能够创造出更好的心智，且该心智还能继续创造更好的心智的心智
当下有些人会想将这每一种思维存在都称为超人工智能。可是这些心智的如此这般的多样性与差异性将会带领咱们找到关于智能和才智新的概念和洞见。
第二，信任超人工智能的人们会假定智能将指数式地增加(在一些不知道的单一衡量规范上面)。这大约是由于他们也假定以为智能现已在指数式地增加了。可是，现在为止，没有依据显现(不管你怎样丈量它)智能正在如此增加。我所谓的指数式增加是说，人工智能在必定的时刻间隔里产生幂函数式的翻倍。我底子不能找到这个说法的依据。假如没有这样的依据，那么为何咱们还要假定它将在不久之后产生呢?仅有会呈现指数曲线增加的只要人工智能的输入，也即那些被用于生成才智或智能的资源。可是输出功能并不会依照摩尔定律增加，人工智能不会每3年或10年就聪明一倍。
我询问了许多人工智能专家以求得到人工智能功能在以指数式增加的依据，可是他们全部人都赞同咱们并没有衡量智能的规范，此外，(即使在特定范畴)智能也不是以指数式增加的。当我问到雷·库兹韦尔，他提出的指数增加这一概念，人工智能指数增加趋势的依据在哪里，他回复我说，人工智能不以指数式增加，可是其开展水平(level)是在以指数式增加。他说：「核算性和算法杂乱度层面一同产生的指数式行进会在整个开展进程中不断为其增加上新的开展层级(level)……所以咱们就能够等待去线性地增加这些层级。由于要进一步增加新的层级就需求更大的指数杂乱度。实践上，咱们的才干在不断指数式地行进。」咱们间隔可与自己一教高低的所谓新皮层(neocortex)层级并不悠远，因而，于我而言，我所估计的2029年这个节点(注：库兹韦尔估计2029年为其所谓的奇点元年，即人工智能逾越人类智能的时刻)仍然适用。
库兹韦尔的意思好像不是说人工智能的力气在指数爆破，虽然人工智能的输出在必守时刻里仅仅会上升一个层级，可是那种创造这种智能的尽力在指数式的爆破。这简直站在了智能正在爆破这个观念的不和。未来说不准，不过就现在而言，很显然人工智能没有指数式地增加。
因而，当咱们幻想一个智能爆破的场景时，咱们应该幻想它是新品种的落英缤纷，而非如注的暴雨倾盆;一个寒武纪式的生命迸发，而非核武器式的链式爆破。加速的技能带来的成果将不太或许是超人类(super-human)，而是非人类(extra-human)。它们外在于咱们的经历，但不必定逾越咱们。
五
关于超级人工智能，还有另一个未批评就被人承受的信仰，它没有任何依据支撑，这个观念即：一个超级的、简直无限的智能能够快速处理咱们那些首要的未被处理的问题。
许多支撑智能爆破的观念都期盼它也将促发行进的爆破。我称此为神话般的信仰，即意淫主义(thinkism)。未来行进的水平仅由缺少思维的力气或是智力所阻止，这个主意是存在过错的。(我也或许留意到了这样一个现象，那种以为思维是能够治好全部的灵丹妙药的观念被许多喜欢考虑的人持有。)
咱们以治好癌症或延伸寿数为例，这些问题不是单单靠考虑就能够处理的。任何一个意淫主义者都不会发现细胞的变老，或是端粒的掉落。没有一个智能，不管它多么凶猛，能够仅凭阅览如今国际上全部已知的科学文献，然后就对其产生沉思。没有一个超级人工智能能够简略地考虑全部如今和曩昔的核裂变试验，然后就能在一天之内想出可作业的核聚变计划。在事物作业办法的不知道层面和已知层面之间还需求除考虑之外的许多东西。在实在的国际中存在着许多的试验，它们其间的每一个都会产生出更多的对立的数据，这些数据需求进一步的能够构成正确的可作业的假定的试验来研讨。仅仅是对潜在数据的考虑将不会产生正确的数据。
考虑(智力)仅仅是科学的一部分，乃至或许是一小部分。例如，咱们没有满意恰当的数据去挨近怎样处理逝世的问题。大部分活体有机体的试验都需求花很长时刻。一个细胞的缓慢推陈出新不会加速。它们会花数年、数月或至少数天才干给出成果。假如咱们想知道在亚原子层面产生了什么，那咱们不能单靠考虑去掌握它。咱们有必要制作十分巨大、杂乱且精妙的物理结构才干找出成果。即使那些最聪明的物理学家比他们现在还要聪明1000倍，没有粒子对撞机，他们也不会知道任何新的东西。
毫无疑问，一个超级人工智能会加速科学的进程。咱们能够在核算机上模仿原子或细胞，而且咱们能够经过引进许多要从来让它们继续加速。可是在当即取得开展的进程中，有两个问题约束了模仿的可用性。首要，模仿和模型只会比它们的本体更快，由于它们遗漏了一些要素。这是一个模型或模仿的实质。也值得留意。这些模型的测验、查看和证明也有必要花和其本体相同长的时刻才能够说它们和其本体是匹配的。对天然真理的测验不能被加速。
这些模仿傍边的简化版别能够有用地筛选出最有远景的或许路途，因而，它们能够加速进程。可是实践国际中没有剩余;实践的全部都具有某种程度的独特性，这是实践的界说之一。当模型和模仿被越来越多的细节所加强之后，它们会遭受如下约束：实践会比一个100%对其模仿的模型来得更快。这是对实践的另一个界说：当时自在全部细节和程度的最快的或许性版别。假如你能够模仿一个细胞中全部分子以及人体里的全部细胞，那么这个模仿就不会和人体进程相同快。不管你考虑了多少东西，你任然需求花时刻去做试验，不管是在实在体系中或是在模仿体系中。
人工智能有必要在实践国际中发挥作用才干表现其价值，而这个国际也会反过来制衡其立异节奏。从试验到原型到失利再到实践，假如没有这些，人工智能仅仅是一种理论而毫无实践价值。假如没有每一分钟、每一小时、每一天或许每一年的立异发现，也不会呈现比人还聪明的人工智能，而人工智能的开展无疑会显着加速其本身的行进速度，部分原因是由于外星人般的人工智能会问出人类不会问及的问题;可是人工智能的强壮(比较于人类)并不意味着会当即带来行进。处理问题所需求的远不止是智能。
单靠智能不只处理不了癌症和寿数延伸问题，应用到智能本身也如此。奇点鼓吹者惯用的一个说法是，一旦你造出了一个比人类聪明的人工智能，那么它当即就会尽力开发，造出一个比它自己还要聪明的人工智能，然后以此类推，直到产生指数爆破，智能体简直会变成相似天主一般的存在。咱们没有依据标明仅靠对智能的考虑就能够创造出更高档的智能。这种意淫主义仅仅一种信仰算了。咱们有许多依据标明，这项作业除了需求许多的智能外，还需求试验的支撑、数据、测验、过错和不寻常的质疑等等全部逾越才智的东西来创造成功的新一代智能。
我的结论是，我的这些观念或许是错的。咱们还处在前期。咱们有或许发现一种智能的通用规范，有或许发现它在任何方向上都是无限的。由于咱们对智能是什么的了解是如此之少(更不用说认识为何物)，所以人工智能奇点的呈现概率仍是比0大。我以为虽然全部的依据都显现，这样的场景十分不或许产生，可是它仍然有或许产生(或许性大于零)。
所以，虽然我不赞同奇点主义的观念，可是我仍然赞同 OpenAI 的更大方针，忧虑超人类人工智能的聪明人们以为咱们应该开发对人类友善的人工智能而且向其灌注可自主仿制的契合咱们人类的价值观。虽然我以为一个超人类人工智能是一个存在于悠远未来的或许危险(它值得咱们去考虑)，可是其或许性微乎其微，(根据咱们现在具有的依据)不该该来辅导咱们的科学、方针和开展。一颗砸到地球上小行星会引发大灾难，这确实有或许(所以咱们应该支撑B612基金会。注：这是一个致力于星球防护的非营利性安排。)可是咱们不该该让这种或许性去分配咱们在，比方说，气候变化、太空游览乃至城市规划上作出的尽力。
相同，现在为止依据显现人工智能很或许无法开展为超人类人工智能，但它确实会成为人类之外成百上千的会思靠的新物种;新物种与人类大有不同，它们只能从事详细作业，也不会当即成为能够秒速处理大问题的天主。相反，将会有如星斗般丰厚且有限的智能，它们在不同的超出咱们幻想的范畴里作业，和咱们一道及时处理现有的问题，并发现新的问题。
我了解一个超人类人工智能天主带来的巨大吸引力，就像新的超人一般，但也正像超人，它是一个神话人物。在国际中的某处或许存在超人，可是这种或许性微乎其微。可是神话是有用的，一旦它们被创造出来，它们将不会消逝。关于超人的主意不会消逝，超人类人工智能奇点的主意，已然现已被提出，也将不会消逝。可是咱们应该认识到，在当下这是一个相似宗教而非科学的概念。假如咱们调查咱们现在全部的关于智能、人工和天然的依据，咱们只能总结说，咱们关于一个超人类人工智能的猜想仅仅是：神话。
二战中，岛群之中的许多孤岛第一次与外界产生联络。不为所知的神一般的存在乘坐着轰轰作响的铁鸟划过岛民头顶的天空，把食物和物品空投在岛上，一去不复返。岛上的宗教信徒跳起舞来，祈求神再次归来，并空降更多的物资。即使是五十年后的今日，仍然有许多岛民祈求着铁鸟再次归来，空投物资。超人类人工智能有或许被证明是另一种「物资崇拜」。一个世纪之后的人类或许会回忆现在，那时的咱们无时无刻不期盼着呈现超人类人工智能，带来超乎幻想的价值。数十年来人们一向等待着超人类人工智能的呈现，并信任它会带着「物资」，很快到来。
可是非超人类人工智能现已实践存在。咱们企图从头界说、约束它以在未来掌控它，可是从智能的微观意义上来讲——其规模包括不同品种的机伶、智能、认知、理性、学习和认识——人工智能已遍布整个地球，并会继续地传达、深化、多样化和强壮化。曾经从不存在像人工智能这样能够改动人类国际的创造。在本世纪末，人工智能将无所不及并改造人类的全部;可是，超人类人工智能的神话——人类取得超级才干或许沦为超级奴隶(或许两者兼而有之)——很或许一向存在，这种或许性对人类来说是如此迷魅以至于太难放弃。
