推荐序一 如何正确地关心人类命运

万维钢 科学作家，“得到”App《精英日课》专栏作者

每个人都关心自己的命运，也有很多人关心国家的命运，但除此之外，你还应该关心人类的命运。人类命运是个大尺度的问题，虽然对你我的生活没有直接影响，但我们总有一点儿好奇心，想知道未来究竟会怎样。

你肯定对未来有过各种推测和想象。虽然我没见过未来，但我敢打赌，你自己的推测和想象有很多不合理之处。

一般人在预测短期的未来时往往过分乐观。20世纪六七十年代，很多人相信21世纪将是一个宇航的时代，人类很快就能殖民火星。结果，我们今天所谓的高科技只不过是——智能手机。想象一件事总比做成一件事容易，我们容易高估技术进步的速度。

如果要预测长期的未来，人的想象力往往又不太够用。一两百年前的人想象21世纪的生活时，根本就想不到会有智能手机和计算机这些东西，他们能想象的大概是一个蒸汽朋克的世界，天空中飘着巨大的飞艇。

所以，如果你要严肃地关心人类命运，就需要科学推测。迈克斯·泰格马克新作《生命3.0》就是这样一本书。

泰格马克可能是当今物理领域活跃着的最有意思的一位物理学家。他在量子力学和宇宙学这些最正宗的物理领域里获得过很了不起的成就，而且还涉猎广泛，跨界搞过人工智能方面的理论研究；他也很有思想，提出了“数学宇宙”这个哲学的世界观；他还热衷于社会活动，跟物理学和人工智能界的很多大佬经常互动。此外，他还很会写书。

李鸿章年轻时写过这样一句诗“一万年来谁著史”，泰格马克这本《生命3.0》的气魄比这个还大，研究的是人类的终极命运。

这个问题本来是交给哲学家和科幻作家去解决的，物理学家能干什么呢？答案是物理学家的推导更精确，而且更富有想象力。

比如一想到未来，我们就关心地球环境会不会被破坏，能源够不够用，哲学家可能深表忧虑。但物理学家知道，我们人类目前的能源汲取水平远远没达到极限，跟将来可以使用的聚变核能和太阳能相比，连九牛一毛都算不上。但只要考虑物理定律的限制，宇宙就是你的大舞台，能源根本不是问题。

再比如人工智能。科幻作家在畅想未来时，经常会犯两种跟人工智能有关的错误。一种错误是他没有充分考虑人工智能，还是认为是人类在主导一切；另一种错误是他误判了人工智能。在有些作品里，机器人动不动就活了，具有了人类的意识，但智力水平居然并不明显高于人类，有时候还挺笨的！而科学家会告诉你，让人工智能获得意识非常非常困难，但是，让人工智能的智能超过人则相当容易。

《生命3.0》这本书给我的感悟是，决定人类终极命运的只有这一个问题最重要——人工智能到底能不能拥有人的意识。

在我们的流行文化中，经常会谈论人工智能，但很少涉及“意识”。可能大多数人都没有意识到，人有一个“意识”的问题。

简单地说，意识是我们对世界的主观体验。我们的喜怒哀乐，一切感情都是因为我们有意识。一辆自动驾驶汽车也许可以出色地完成运输任务，但当遇到红灯时它不会暴躁，有危险时它不会害怕，撞了车时它不会疼，没油时它不会饿，完成任务时它也不会高兴，它只是机械地做事而已。

实际上，现在生物学家认为，人在做事的时候，本质上也是机械的。我们的各种感情只是附带产生的多余的情绪。就算没有任何主观感受，你还是一样能做好各种事情。

但是主观体验赋予了我们生活的意义。你工作之余，偶尔抬头看看星空，感慨一下宇宙多么美好，那是因为你有意识。如果人没有意识，那就跟一堆沙子没有本质区别，人生就没有意义，整个宇宙的存在就没有价值。

泰格马克把生命分成三个阶段，人类只能算第二阶段，叫“生命2.0”。我们能学习新知识，但不能随便升级自己的身体，因而受到了很大的限制。而人工智能则是“生命3.0”，它们将可以随意升级软件和硬件，它们终将超过我们。

那将来的人工智能是否具有意识？

科幻作家会说，既然世界上并没有“灵魂”这种东西，人类纯粹是由原子组成的，那么人工智能当然可以有意识。按理说是这样的，但科学家会给人工智能的意识做出一些限制。比如这本书中介绍了一种叫作“信息整合理论”的意识理论，这个理论要求有意识的物体必须是信息高速整合的，而物理定律要求信息的传播速度有限，人工智能大脑的大小就必须限制在一个不太大的范围之内。人工智能的聪明程度将是有限的。

但再有限也比人类厉害得多，那么，将来的结局就是，人工智能将会淘汰人类。如果双方和平交接，人工智能将作为人类文明的代表去征服宇宙的各个角落，人类将是人工智能的宠物。

如果人工智能一直都没有意识，事情就更麻烦了。据泰格马克推演，人工智能就算没有意识也可能会有自己的目的，它们可能会不自觉地发展壮大，并且最终抛弃人类。那将是人类文明最坏的结局，我们可能会被没有意识的僵尸人工智能取代，留下一个空洞的、毫无意义的宇宙。

鉴于这些结局好像都不怎么理想，我们迫切地需要知道意识到底是怎么一回事儿，将来的人工智能到底会怎样。

这并不是泰格马克自己在杞人忧天。我看美国上上下下，从学者到企业家和老百姓，现在对意识和人工智能的思考非常深入，主流媒体上也经常讨论，新研究、新思想层出不穷。

虽然中国人对人工智能的各种应用非常关心，也很了解，但对人的意识、人工智能的原理这些问题关心不够。我们有太多面向过去的思想家，他们总想用过去指导未来，但是未来世界的逻辑很可能跟过去很不一样。

到底什么是意识？人到底是一种什么样的机器？就算你觉得未来太遥远，只要你关心人，这些问题就会让你寝食难安。这就是现在世界上最聪明的大脑都在想的问题。而《生命3.0》这本书告诉你的大约就是目前已知最好的答案了。