主题：331-弗诺.文奇：如果技术奇点没有发生 -- 万年看客

https://www.youtube.com/watch?v=_luhhBkmVQs&t=414s

……正如你们所看到的，我今天的讲座标题是“如果技术奇点没有发生”。首先我要定义一下我所说的技术奇点是什么意思。我所说的技术奇点是指以下这种可能性：通过技术，我们可以在不远的将来创造出超越人类的存在或者变成超越人类的存在。技术奇点之后的世界对于今天的我们来说就像歌剧对于扁形虫一样难以想象。换句话说，从这个定义出发，几乎可以认定关于技术奇点的讨论与长期思考必然不切实际。所以当斯图尔特一开始建议我来谈谈这个话题时，我很有些摸不着头脑。但是后来我又想到，科幻作家与优秀的情境规划者有一点共同之处：无论他们是否相信某种特定情境可能发生，都会考虑这种情境的各种替代版本。我就是本着这种精神来准备今天的讲座的。顺便说一下，今天的讲座还预设了另一个假设，即我们永远找不到超光速旅行的方法。对于那些上网浏览时偶然遇到这次讲座的人们，我先把话说清楚：我仍然认为技术奇点是近未来最有可能的非灾难性结果。也许我们有办法阻止技术奇点，但我知道的唯一确定方法就是炸毁全世界。我们在此前的二十世纪已经见识了各种各样的灾难情境，我推荐大家读一下马丁.芮斯/Martin Rees的《最后时刻/Our Final Hour》。我将尽量避免谈论例如最终黑屏式的灾难情境。这种情境对于情境规划者来说就像涉及技术奇点的情境一样不适用，尽管不适用的方式更悲观。

接下来我想首先谈一谈虽然没有发生灾难，但是出于某种原因技术奇点依然没有成真的情境，以此考察一下技术奇点的缺失或者失败可能看起来是什么样。我为这种情境构想了一堆症状，这是情境规划经常做的事情——事实上这方面更重要的做法之一是思考如果情境以某种特定方式发展，可能会出现怎样的症状，至于导致这些症状的特定原因可能要一直等到事后才能得到明确指出。或许等到五十年后将会有人在论文当中言之凿凿地论证为什么技术奇点显然不可能发生。在我设想的这个情境中，我们一直没能真正弄清楚如何将硬件与软件整合在一起。我们具备了硬件能力，但是一直不知道怎样将这些硬件有机结合成为更大更强的整体。套用玄学的说法，我们一直没能找到硬件的灵魂。这种情境随着时间流逝暴露出来的症状可能是软件工程学的大包大揽。人们使用Java来解决或者尝试解决越来越大的问题，越来越大的软件项目，然后发现软件项目一次又一次以轰轰烈烈的失败而告终。软件失败本来就是非常奇怪且有趣的现象，尤其是大型软件项目。如果项目拿的是政府预算，那么总归可以不断投钱填坑，直到最终可以在面子上糊弄过去；但是有些软件项目的失败规模如此宏大，以至于即使金主再怎么财大气粗，最后也只能抽身止损：“算了，这玩意没救了。”——实际上这种放弃行为本身就是一个有趣的大型失败类别。

另一些失败也可能以其他方式有趣。有些人总是声称计算机程序的局限性可能导致多么可怕的后果。在我构想的这个一切领域都由软件工程学负责的世界里，完全有可能发生某些非常奇怪的失败，特别是在人们尝试完全自动化的大型控制项目当中。以空管为例，人类管制员偶尔也会犯错误，导致两架飞机相撞。但是假如空管系统彻底自动化，那么我完全可以想象系统当中的一个错误导致几架、十几架乃至几十架飞机同时相撞在同一点。在某种意义上这堪称是超人的错误，因为人类就算想要蓄意制造这样的事故都没这本事。无论如何，如果我们进入了大型自动化项目纷纷失败的时代，那么制造商很可能会缩手回头，不再追求改进。在经济层面，正是制造商不断改进技术的追去决定了摩尔定律在未来一两年的实际斜率。因此如果制造商不再追求改进，我们很可能会目睹摩尔定律的失败，败因并不在于摩尔定律终于碰上了物理极限，而是因为软件工程的失败消解了摩尔定律背后的经济驱动力。如果摩尔定律停摆了，那么针对硬件的基础研究本身最终也会趋于停滞，既因为缺乏资金，也因为缺乏足够先进的硬件来支持更先进的硬件得以问世所必须的研究类型。硬件改进将会长期滞留在最简单的层次，在此期间硬件结构将会一成不变。最后，在这个情境当中将会出现一些非常优秀的视听娱乐产品以及非常大的数据库，但是没有足以适当利用它们的软件。如果事态真的这样发展——大多数人可能不会对此感到惊讶——强人工智能的承诺将会迟迟得不到兑现，其他一些我们许多人希望看到的技术——比如纳米级通用组装器——也无法得到开发。总的来说，这个时期的最初几年将被称为梦碎时代。

接下来我想谈谈梦碎时代在技术领域之外的其他特点。顺便说一下，大约一年前，我与汉斯.莫拉维克谈论了技术奇点没有发生的可能性。他的反应非常有趣：“那也太神奇了！像这样看上去显然不可避免的事情居然没能发生！搞清楚它为什么没能发生可能是全世界最有趣的工作。唯一的可能就是我们对于宇宙的某些基本理解出了错。”我的态度倒是没他这么开朗。我觉得在这样的情境里，技术奇点的拥护者们只会逐渐沦为一帮过气的老家伙，他们的研究将会逐渐失去人们的关注。另一方面，这种情境的某些后果可能看起来令人安慰。有一条埃德尔森定律，说是没有被提出的重要见解的数量会随着时间的推移呈指数增长。我认为，如果你试图仅仅依靠人类思维面对信息生产——以及某些情况下的知识生产——那就肯定会发生这种事。如果技术进步的趋势当真放缓，那么或许我们将会有时间迎头赶上，充分消化吸收已有的技术与知识。不过在某些领域，知识积累的速度之快可能依然会令人望尘莫及。比方说在生物科学领域，关于代谢通路、基因组学和比较基因组学等等的数据库可能会继续以越来越快的速度得到填充，研究人员只会越来越落后。这其实很符合我们永远都要对于事物运作方式的某些基本层面一无所知的观念。还有一种可能性可能会让软件经理感到暖心：如果硬件方面的发展放缓乃至停滞，那么或许我们终究将会有时间从头彻底整顿一番多年积攒的软件代码屎山。我并不认为真会发生这种好事，不过从长远来看——例如在几千年间——未必就一定没人闲着没事这么搞。不妨想象一下，如果给你几个世纪的时间，你未必不能将所有的遗留软件彻底整顿一遍。不过我还是要乌鸦嘴一句：就算你费时费力完成了这项工作，也只不过意味着更新更多的屎山代码将会覆盖被你整顿完毕的软件，直到几个世纪之后的另一位蠢货再次发扬愚公移山的精神。

还有几项不太令人暖心的可能性。我认为在这种情境下，人类在二十一世纪生存下来的机会将会变得更加飘渺。老生常谈的环境威胁仍然存在，而且在我看来战争威胁还会变得更严重。如今我们大多数人都很有道理地恐惧城市核恐怖主义，但是恐怖主义与1970年到1990年之间的冷战高峰相比根本不够看。当时的拥核国家谈论的是在几天内发射数万枚核武器，其中大部分都要在全球各地的城市上空引爆。换句话说，当时的拥核国家企图合作消灭全人类。在我看来，相互确保毁灭是完全可能的前景之一，而且与环境威胁并驾齐驱。环境恶化固然会带来很多痛苦，但是如果环境恶化牵扯到了国家利益，国家又能发动军事机器，军事机器又参与了相互保证毁灭的计划，那么毁灭人类文明也不在话下。

接下来我想谈谈梦碎时代之后一直到长远未来的各种可能性。假设我们设法挺过了二十一世纪，在此后很长一段时间内还会发生很多事。我想谈谈涵盖了许多不同可能性的情境。我为各种情境都绘制了对应的图表。通常此类图表的作用是显示人口随时间变化，但是我绘制的图表展示的是技术水平与人口规模的关系。图表上的曲线走势看起来很像我多年来一直在绘制的技术奇点走势图，曲线在左侧比较平缓，越往右爬升得越陡峭。不过你只要看看坐标轴的标注，就会发现这张图并不是宣扬技术奇点事件即将发生的广告。首先，坐标轴上并未明确显示时间。水平X轴是人口规模，垂直Y轴则是技术水平——我原本打算用总排放量或者人均排放量来代表技术水平，但是出于若干原因没有这样做，原因之一在于我很不擅长研究数字。最后我决定改用以功率为单位的最强大能源——当然，最强大能源不同于人口，是离散式分布的，必须在各点之间连线。连接而成的曲线就意味着人类文明在水平轴上表示的人口规模时可用的最强能源是什么。如果我有如果我充分了解历史，生成这条曲线的方法就是从公元前50000年开始，查找人类当时可以使用的最大能源是什么，这就是我的垂直坐标，对应的水平坐标则是当时的地球人口。

左下角的坐标原点是公元前五万年。我不打算追溯得更远，因为二三十万年前在地球上活动的未必还能算是人类。我开玩笑地将这个时期的最强能量投送方式设定为往敌人头上扔大石头。如果我重做这张图表，我不会把马安置在公元前6000年，因为人类在大约公元前8000年就已经驯化了牛，而且我认为牛的马力比马更强。你还会注意到曲线的上升势头多么稳健，比方说黑死病确实减少了全球绝对人口数量，但是却根本没有改变垂直坐标。1850年首次出现了可以提供一兆瓦功率的航海蒸汽机。在我们这个时代最大的发电站的功率大约是13吉瓦。在图表右上角，曲线爬升如此陡峭，简直成为了垂直的直线。假设世界总人口就这样稳定了下来——我们在二十二世纪未必没有机会做到这一点——而发电站规模还会适度且持续地提升，这样一来曲线终将成为垂直直线。这并不意味着发生了不可知的事情，只是表明这条曲线不是函数，仅仅显示了给定人口规模与最大可用功率之间的关系。我喜欢这种图表，因为它允许我查看从现在起前后五万年间的整个人类时代。

现在的情况看起来不太令人兴奋，但是我想看看三种可能性或情境。首先是全人类都死绝的情境。这种情境表明不能单调地看待人口与技术的关系：相互保证毁灭策略的危险被我们当成了耳旁风，然后一场大规模灭绝战争就终结了人类文明，一个下午的疯狂——在实际当中可能只需要几个小时，又或者需要好几天——将全球人口减少到大约1000万，然后可能还需要更长的时间来推动人类完全灭绝。我说了这么多，你们可能觉得我对核战争情有独钟，实际上核战争就算不是毁灭人类的最可靠方法之一，起码也是前几名，因为我们已经掌握了大量关于单颗核武破坏力的信息，很容易就能根据这些信息推演出全面核战会是怎样的情境。如今我们正在投入大量人力物力，致力于弄清楚如何造成这种极端损害。与此同时，我们还构想出了一种神奇的相互保证毁灭逻辑，不断提高了可接受损害的阈值。此外，如今核战的毁灭力也早已超过了核武时代刚开始时人们的认知。很难想到任何针对人类文明的其他威胁如此依赖人类自身的天才来追求针对人类自身的毁灭。

其他技术门类是否也能有助于灭绝人类？当然能。想象一下，如果我们研究疾病的目标不是为了根除疾病，而是为了培养出足以抵御当前医学技术的疾病变种，那将会多么有趣。我没有过多地思考这个问题，不过马丁.里斯在他的书中提出了有趣的观点：人们非常担心某些技术威胁，比如能拆解万物的纳米机器或者其他真正的技术壮举，尽管这些技术还需要极大进步才能真正威胁到人类。里斯不认为我们真的需要担心此类情境，因为早在你设法研发出真正酷炫的灭绝人类未来科技之前，远没有那么酷炫的现有日常技术就会借助事故或者恶意而造成要么毁灭人类要么消灭文明的灾难。我认为在当前的情境下，一个人只要下定决心就足以威胁到人类文明的存续。以上是第一种可能情境，我称之为回归疯狂。任何经历过《地球的命运/The Fate Of The Earth》与《TEA-TEB报告》那个时代的人们都接触过各种假想核战毁灭人类的文艺作品。实际上我对于这两部作品描绘的情境相当怀疑，不过至少在原则上它们可能和过去许多人担心的一样具有破坏性。

下一种可能性是黄金时代，这同样是一种非技术奇点情境。黄金时代的图表和以前一样，可以看到它肯定不是人口规模的函数。我将有一些其他的图表，显然不是功率源的函数，我们目前大约位于公元2000年左右，在这张图标当中我描述了和平上升到黄金时代的趋势，持续大约一千年。在那段时间里，能源技术有所改进，全球人口下降到大约30亿。我认为这是很多人都希望发生的世界，因为这意味着我们设法避免了每个人都担心的生存威胁。所以我们的努力方向——至少是近期内的努力方向——应当致力于思考如何和平地步入黄金时代。实际上目前确实有很多指向黄金时代的趋势。例如人类心理的可塑性可以导致大量个人在很短的时间内彻底改变行为方式。例如人口在世纪之交的平稳增长就是一个例子。只要给人们带来希望、信息与沟通手段，他们就会以惊人的速度超越精英的智慧。我对现在最乐观的一点就在于世界上最大国家的政府纷纷意识到，国家财富极大地依赖于是否拥有大量相对幸福、富有创造力、沟通手段通畅且受过教育的国民。只有这样的国民才是国家的真正财富。尽管这些政府可能仍然想继续玩弄老一套，但是有一种观念认为，如果他们想将国民当成财富资源加以，那就至少需要营造自由的假象。对于这些政府来说只有一个问题：一旦你将数百万、数千万乃至数亿受过教育的人们联系起来，让他们相互交流，他们对于国家事态的理解未必会按照你预想的路径展开。在这样的国家，可能有成千上万乃至数百万人比起他们的国家领袖以及领袖身边的顾问们受教育程度更高且更聪明。领袖集团与广大国民之间的智力水平根本不对等。换言之，领袖或许只想提供自由的假象，但是为了维持假象不被戳破，这个假象模仿真正自由的拟真度可能不得不达到人类历史上前所未有的水平。

我真的不太喜欢“民粹主义”这个词，但是在这里我觉得这个词很合用。以上我描述的正是一种新型民粹主义，其中每位参与者固然都是为了保障自己的个人利益，但是每个人的个人利益都如此广泛，每个人获得的信息都如此充分，以至于谋取私利的行为也可能或者可以被误认为维护公益之举。我认为大量合作的此类个人可以创造出奇迹。如果今天有人穿越回1995年，向当时的我描述维基百科并告诉我它迄今为止无可辩驳地做了什么——无论他怎样看待维基百科的未来——我肯定会说你应该拿出纸笔算算帐，好好想想这样一个玩意怎样才能不亏本；更有甚者，认为维基百科可以长期存在的人们显然不理解这世上有多少天生的坏种，一看见美好的事物就忍不住下手破坏。今天的我因为维基百科的存在而感到由衷的高兴，对我来说维基百科的成功简直就是奇迹。因此尽管我认为黄金时代的构想可能过于乐观，尽管地球上可能发生各种危险和意外——即使每个人都满心善意，可是如果他们站在装满炸药的房间里，他们的处境依然十分危险——但是我同样认为黄金时代绝不是不可能的梦想。弄清楚如何才能让这个梦想成为现实，或者在未能实现这个梦想的前提下怎样尽量避免破坏以及灭绝，这都是非常现实的目标。

我还试图想象在黄金时代之后会发生什么。假设我们把全球人口减少到30亿并且极大提升了全人类的福祉，在那以后的长远未来又会怎样？比方说一万年到一万五千年之后？我本来想说五万年之后，因为从今天起往前追溯五万年，往后展望五万年，正好对称。在我看来，无论我们眼下做得多好，五万年后的未来都足够遥远，从生物学时间的尺度来看，即使在最乐观的情境当中，我也真的不指望人类这一物种依然还能以今天这样的形式存在下去。想象一下，在二十世纪二三四十年代，当人们谈论科学与进步时很乐意谈论那些发生在遥远未来并且好得难以想象的愿景。到了二十世纪末，人们开始谈论发生在自己退休之前的科学进步，突然每个人都感到非常紧张。我看不出我们怎样才能期望当前形态的人类在地球上的好时光能够永远持续下去。此外我还认为黄金时代末尾的地球人口将会增加到至少五六十亿，因为我对于大量人口怎样使得维基百科成为可能印象深刻。大量人口意味着任意专业化细分主题都有相应的专家，他们都在相互交流，都在创新。所以我有点觉得，如果能在保护环境的前提下保持所有人的高标准生活水平，那么大量人口的存在很可能是一件大好事。实际上，如果我们真的谈论五万年后的未来，在这么大的尺度上人类完全可以以千年为单位来做实验，先将人口降低到30亿，再将其推高到60亿、70亿乃至更高，最终达成关于最佳人口数量的群体共识，。

除了以上谈到的可能促成黄金时代的趋势之外，我还有一条实质性建议，可能与很多其他人的观点相悖：我认为身心保持年轻状态的老年人对于人类的未来大有裨益，所以促进长寿研究可能是对于人类长期安全最重要的事业之一。雷.库兹韦尔谈到过针对促进长寿的反对意见，其中有些意见非常愚蠢，比如老人必然变成老糊——这本来就不是促进长寿的意义。我说的很清楚，必须是身心年轻的老年人。还有人认为老年人会妨碍社会进步，对此我的回应是人类历史上还从来没出现过活到500岁并且依然充满活力的人，因此我们并不知道假如此类人群大量出现会让社会变成什么样子。但是我真心认为有很多理由相信，假如总人口当中的相当一部分是这种年轻态的超高龄老人，那将会非常有益于人类文明在长期未来的健康发展。打个比方，拥有非常年长的部落成员——比方说高寿四十岁有余——对于旧石器时代的部落确实有所帮助，因为如此高寿能让人通过亲身经历更加深刻地理解自然界的周期规律，比如上次旱季期间的情况。我看不出为什么同样的道理在更长时间尺度上就不能成立。如果从自身利益角度出发，从事一项有利于自己的曾曾曾曾曾孙辈的事业是一回事，明确知道自己将会活到下一届选举、下一次股东大会或者五百年后，并且为了届时的自身利益而从事某项事业又是另一回事。如果我们设法实现了长寿技术的突破，那么我们不仅能拥有对于未来抱有长远视角的人，而且还将拥有对于非常遥远的过去经验丰富的人。好比有个老头倚老卖老——当然这个例子略微削弱了我的主张——“这一招我们在1904年就试过，那时不管用，现在也不会有用。”我可以想象这种情况在未来也会发生，只是这老头说得不是1904年或者2004年，而是4000年。而且他说话的腔调听起来很可能也不像老头，看起来更是相当年轻。他的观点可能完全错误，这不是重点。重点在于拥有那些实际体现长期存续的人们在我看来几乎肯定非常有利。

下面我再讨论另一种技术奇点未曾到来之后的远期情境，我认为这种情境的某种形式是一切情境当中最有可能发生的，尽管为了方便讨论起见我会将其构想成尽可能极端的案例。我称之为时间之轮——一听这个名字大家大概就能猜到是怎么回事。当我努力工作描绘每一段曲线的走向时，我作为一个科幻作家想象曲线的每一处转折必须意味着一段或者一系列故事，其中有些故事可能是核战争，其他的故事可能是非常糟糕的瘟疫或者完全失控的环境灾难。总之这些故事全都导致了激烈的人口损失与技术退步，然后两者重新上升。而曲线也会呈现出相应的螺旋形态。仔细看看你会注意到，我描绘的曲线在不久的将来将会呈现车轮一样的螺旋。注意，这些螺旋代表的人口损失百分比要远远超过黑死病，如果事态发生得太快，那将是非凡的灾难，比方说世界人口或许会降低到只有1000万，技术将会倒退回蒸汽机军舰出现之前的时代。我们能知道这些周期的振幅有多大吗？我不认为这种事能够预先知道，尽管我认为值得猜测。除了会死多少人以及技术会下降到多么低之外，还有整个周期需要多长时间才能完成，以及周期的最高点能升到多高。根据我的猜测，每个周期的人口最大值都会比上一个周期低一点，但是以能量消耗来衡量的技术水平则要高一点。

在二十世纪六十到八十年代，有一位哈里森.布朗/Harrison Brown在《人类未来的挑战》一书中提出，一旦我们经历了技术退步，制造业所需的基础设施一旦被摧毁，那就无法重建，因为我们在第一次从无到有实现工业化的过程中已经消耗了太多的资源，所以就算我们真能从技术衰退当中复原过来，也只能以某种残疾状态继续存在下去。我认为他的观点非常错误，因为还有很多途径可以让人们获取资源。比方说我认为矿物肯定不难获取，因为上一次周期遗留的城市废墟里必然到处都是现成的金属。化石燃料或许确实会被消耗殆尽，但是另一方面我们还可能留下远比恐龙化石更多且更容易获取的图书馆。我们目前保存信息的各种方式当中有一些专门考虑到了能否在遥远的未来加以访问。至于其他方式也有说法：一座纸质图书馆书籍就算被洪水淹没，其中的图书也未必会遭到完全摧毁，残存图书里的知识可能很容易再度焕发生机。在时间之轮情境中，考古学家将会长期担当人类文明的英雄。事实上科学研究届时恐怕将会非常令人不愉快，因为科学家费尽心力发现的“新”科学知识或许正沉睡在考古学家还没找到的书页当中。但是我们并不知道时间之轮的情境究竟会有多可怕。时间之轮的曲线走势看起来就像是有人试图实现黄金时代，但是功亏一篑，在最后关头遭遇了灾难。灾难可能是我们自己发动的、往彼此头上扔大石头的战争，也可能是宇宙仍在我们头上的大石头或者说小行星。换句话说，地球上的生活本来就充满了危险。我们可能经历一段非常漫长的好时光，比方说好几千年，然后差点灭绝，再然后我们重新踏上上升之路，就这样来回转圜。尽管这期间有着数千年的美好时光，但是总还伴随着挥之不去的生存威胁，而且我们无法量化这份威胁的严重程度，因为我们是唯一的实验样本。我们对这些周期真的知之甚少，有可能最糟糕的情况可能会杀死地球上的所有人。

那么如何应对这种最致命的不确定性？我认为没有人真正知道这类问题的答案。比方说相互确保毁灭战略有多危险？——实际上正是这一战略确保了二十世纪后半期的全球大体和平，听起来是好事——环境变化构成的生存威胁有多大？我们从重大灾难中恢复过来的速度有多快？现今技术水平还要多久才能变得足够先进，以至于根本用不着国家间的相互确保毁灭，而是只要某人某天心情不好就足以造成人类灭绝？或者说科技究竟有没有可能发达到这种程度？拥有很多年轻态老年人是好事吗？很多这样的问题我们都不知道答案，因为我们只进行了一次实验。实际上我非常尊重情境规划，不过除了情景规划之外还有另一件很棒的工具，那就是广泛的经验。这意味着只要其他人尝试过某些事情，并且告诉你这是一个非常糟糕的坏主意，你就不必自己踩坑。你甚至可能知道有人因为尝试了某些蠢事而丧命。可惜的是，从文明层面上来说，我们在地球上能参考的其他文明与我们的工业科技文明并没有可比性：他们没有像我们这样的技术，没有像我们这样的通信能力等等，因此自然也不必应付我们需要应付的问题。除此之外，还有许多因素需要数百乃至数千个例子才能彰显它们是否有助于人类的安全。以弗雷明汉心脏研究为例，仅仅观察你的父母甚至祖父母的生活习惯与心脏病情之间的关并不足以真正了解某些行为在统计学上的危险性。弗雷明汉研究可以提供大量病例，但是人类科技文明只有一个样本，因此我们没法获取这方面的知识。

我像每个看到这些图表的人都会注意到，每张图表的右上角都写着“我们在地球上的长远现在”。我要说的是，自给自足的地外定居点才是人类长期生存的最好希望，在地球上长期生活则不是——尽管我还认为后者更能提高我们迎来黄金时代的前景。但是为了人类的长期存续，必须实现地外殖民……我非常高兴像霍金、戴森和里斯这样的人物正在谈论这个话题，使其重新成为了讨论的中心。我认为地外生存对于长期现在尤其重要，而且这并不是避免技术奇点发生的方式——实际上我认为就像许多其他我们现在还想不到的事情一样，地外殖民更有可能在技术奇点之后发生。关于在太空建设真正自给自足的定居点，常见的反对意见有以下几条。第一条是分散注意力。我经常听到非常严肃的人们对我说，向太空追求安全只会分散我们解决地球上生死攸关问题的注意力。而我认为地球上的情况早已足够危险，以至于反对地外殖民的道德立场非常非常可疑。第二条反对意见认为，太空探索的默认前提相信太空是无主之地，但是很可能并非如此。这倒是确有可能。实际上，太空是不是无主之地与技术奇点能否发生是我们面对的两大最重要谜团。第三条意见认为太空探索会在短期未来造成极大危。我认为这个意见并非完全没有道理。真正的太空计划意味着人类可以廉价进入太空，这一点非常接近大规模杀伤性武器的能力。太空探索可能属于非常罕见的情况。通常人们特别想做的事情会带来长期风险与短期满足，而太空探索对于人类的长期未来十分有益，却又会在短期内致使人类的处境更加危险，这是一种非常奇特的情况。我不认为这里的风险特别大，但我还是想把它列出来。第四条反对意见：在太阳系里没有其他地方可以支持人类文明，而其它恒星又太远了。作为一个阅读二十世纪五十年代科幻小说长大的孩子，我可以针对这个问题谈上一个钟头。这里我长话短说：其它恒星并没有那么远。如果你抱有长远现在的心态，即使以相对较低的飞行速度也能实现星际殖民……

以上我谈论的是真正的太空计划，而我们还没有这样的计划。我们的出发点是发射成本每公斤5000到10000美元。据我所知，目前美国政府的载人航天计划仍在谈论这个数字，而且仅仅能抵达近地轨道。这使得任何关于人类在太空谋求生存于发展的言论都成了双重镀金的骗局。首先，它对有效载荷施加了可悲的限制；其次，这意味着有效载荷本身必须非常可靠且紧凑，因此必然非常昂贵。当然，我的批评针对得是“当前美国政府的太空项目旨在将人类送入太空”这一话术，我并不打算得罪天体物理学家和其他形式的天文学家。但是天体物理学家与宇宙学家同样被这个双重镀金骗局狠狠宰了一刀。首先，他们的太空项目可能会因为政治势力的一时兴起而被取消预算。其次，如果发射成本降低到每磅500美元或者每公斤500到1000美元抵达近地轨道，他们能做的事情肯定比现在多得多。我认为在许多情况下我们完全可以说：即使每公斤500美元依然意味着相对较高的开支，你也可以让发射大型太空望远镜的成本比修建地面天文台更低。因为这么低廉的价格可以让你将激光定位与合成孔径望远镜送进太空，在太空使用这些仪器开展观测要比在地面上这么做简单且便宜几个数量级。所以我认为即使是那些主张让机器人代替人类进入太空的人们也应该考虑这个问题，特别是科学家。我这里谈论的是基于人类的太空计划，我认为整个二十世纪的普通人都本能地理解了将人类送入太空的重要性，而且他们的热情遭到了滥用。我认为既然将人类送入太空对于人类的长期生存如此重要，那么任何不以显著降低进入太空成本为目标的载人太空计划都应该遭到我们的抵制。我就说这么多吧，谢谢大家。