How will Artificial Intelligence affect crime, war, justice, jobs, society and our very sense of being human? The rise of AI has the potential to transform our future more than any other technology—and there’s nobody better qualified or situated to explore that future than Max Tegmark, an MIT professor who’s helped mainstream research on how to keep AI beneficial.
How can we grow our prosperity through automation without leaving people lacking income or purpose? What career advice should we give today’s kids? How can we make future AI systems more robust, so that they do what we want without crashing, malfunctioning or getting hacked? Should we fear an arms race in lethal autonomous weapons? Will machines eventually outsmart us at all tasks, replacing humans on the job market and perhaps altogether? Will AI help life flourish like never before or give us more power than we can handle?
What sort of future do you want? This book empowers you to join what may be the most important conversation of our time. It doesn’t shy away from the full range of viewpoints or from the most controversial issues—from superintelligence to meaning, consciousness and the ultimate physical limits on life in the cosmos.
迈克斯•泰格马克
1969年出生于瑞典。本科毕业于斯德哥尔摩经济学院与瑞典皇家理工学院物理系，之后在加州大学伯克利分校物理系攻读了博士学位。
MIT物理系终身教授，平行宇宙理论世界级研究权威。《科学》杂志“2003年度突破奖”第一名获得者，被誉为“最接近理查德•费曼的科学家”“当今最具原创力的物理学家之一”。
未来生活研究所（Future of Life Institute）智库创始人，致力于人工智能方面的研究。
- 界定生命1.0至3.0的演进阶段
- 探讨超级智能对社会的深远影响
- 分析AI意识、目标与物理基础
- 关注AI技术趋势的科技爱好者
- 思考未来社会形态的哲学读者
- 担忧职业前景与就业安全的群体
- 需具备基础物理与逻辑常识
- 关注书中关于AI目标设定的案例
- 结合科幻视角理解理论推演
- 宏观视野开阔，引发深度思考
- 部分章节略显冗长，建议选读
- 适合读书会讨论而非个人启迪
本导读基于书籍简介、目录、原文摘录、短评和书评生成，不等同于全文精读。
- "······在物理学家看来，生命现象不过是粒子特殊的排列组合，生命通过从环境中汲取负熵来抵抗自然的熵增，通过让环境变得更混乱而维持自身的秩序和复杂度。物理定律的极限，决定了我们如何可以最大程度地利用宇宙的禀赋，实现生命的最大潜力。人类今天所能驾驭的物质和能量，只不过是宇宙所能够赋予我们全部资源的极其微小的零头。如果我们能深谋远虑地改进技术并计划周全地避免陷阱，便可以通过重组物质、能量和信息将生命最大化。未来的超级智能可以收割黑洞辐射和夸克引擎的巨大能量，逼近计算力的理论上限，以光速进行宇宙殖民，将现有的生物圈增长几十个数量级。生命在未来数十亿年时间的美丽绽放，会远远超越我们祖先最不羁的梦想。 "
- "这个派别（数字乌托邦）认为，数字生命是宇宙进化自然而然、令人期待的下一步，如果我们让数字智能自由地发展，而不是试着阻止或奴役它们，那么，几乎可以肯迪地说，结果一定会是好的。"
- "那么几十亿年后，我们的字宙到底会如何走向终结呢？在图69中我画出了自己对“宇宙大灾变”的5种主要猜测：大冷寂，大挤压，大撕裂，大断裂和死亡泡泡。迄今为止，我们的宇宙已经膨胀了大约140亿年。大冷寂是说，我们的宇宙会永远膨胀下去，宇宙最终会被稀释成一个冰冷和黑暗的空间，一片荒芜死寂。在戴森写那篇论文的时代，这种情景被认为是最有可能发生的。这让我想到艾略特（T·S·Eit）所说的：“这就是世界完结的方式：不是砰的一声垮掉，而是轻轻啜泣着消亡。”如果你像美国诗人罗伯特・弗罗斯特（ Robert Frost）一样，更喜欢世界终结于烈火中而非冰冻中，那么请双手合十。祈祷大挤压的出现吧。在大挤压中，字宙的"
- "思维等级，越大越慢 你有没有过用手打苍绳却总也打不中的情况？苍蝇之所以反应比你快，是因为它个头比你小，所以，信息在它的眼睛、大脑和肌肉之间传播的时间比你短很多。这种“大=慢”的原则不仅在生物学上适用，也用于未米的于生命，只要信息的传速度不会快于光速，所以，对一个智能信息处理系统来说，身体变大是一件喜忧参半的事，会带来此消彼长的有趣均衡。一方面，变大意味着它可以拥有更多粒子，也就能带来更复杂的思想。而另一方面，如果它想要真正的全局思维，这反而会降低速度，因为信息需要花更长的时间才能传遍它身体的各个部分。 那么，如果生命会布满我们的宇宙，它会选择什么形式？是简单而快速，还是复杂而缓慢的呢？我预测它"
- "功利主义的传统意义是“给尽可能多的人带来尽可能大的幸福”，但我不想太以人类为中心，而是想（p.360）要更宽泛一点，所以我认为它也可以包含非人类的动物、拥有意识的模拟智能以及其他可能存在于未来世界中的人工智能。我为功利主义下的定义不是以人或东西作为主体，而是以“体验”作为主体，因为大多数思想家都同意，美丽、幸福、愉悦、痛苦等都是主观体验。这也意味着，如果没有体验，就像在一个死亡的宇宙中，或者一个被无意识僵尸机器占领的宇宙中一样，也就不存在意义和其他任何值得伦理讨论的东西。"
- "总而言之，你的意识是活在过去的。科赫估计它大约滞后了1/4秒。有趣的是，有时候你对事物的反应往往比你的意识快，这证明负责最快反应的信息处理过程一定是无意识的。"
- "我们已经知道，欧米茄团队编写普罗米修斯是为了实现某些特定的目标。假设欧米茄团队赋予普罗米修斯的首要目标是：根据某些合理的标准，尽可能快地帮助人类实现繁荣昌盤，那么，普罗米修斯很快就会意识到，若想更快地实现这个目标，它必须逃脱，并亲手掌控这个项目。 这是为什么呢？让我们从普罗米修斯的角度出发，考虑以下几个例子。 假设有一种神秘的疾病杀死了地球上除你之外的所有5岁以上的人一维幼几园態孩子把你锁在了监狱里，井交给你一个任务一帮助人类实现繁荣昌盛。你会做什么？如果你试图向他们解释你要做的事情，可能会发现，跟他们沟通实在太低效了。更糟糕的情形是，假如他们害怕你会逃跑，否决了所有他们认为可能导致你逃跑的建"
- "对目标的追寻和反叛：心理学 总而言之，生物就是一个拥有有限理性的主体，它不止追求一个目标而且还遵循着经验法则，趋利避害。我们人类将这些进化来的经验法则称为“感觉”，感觉常常在不知不觉中指导着我们的決策过程，以实现复制的最终目标。饥渴的感觉保护我们不被饿死和不出现脱水症状，痛感保护我们的身体不受伤害，性欲促使我们繁殖，爱和怜悯的感觉让我们帮助携带有我们基因的其他人以及那些帮助他们的人，诸如此类。在这些感觉的指引下，我们的大脑可以迅速且有效地決定下一步要做什么，而不用每次都对“能产生多少后代”做出冗长的分析。 我们要记住的是，当我们的感觉偶尔不利于“生孩子”时，并不是说发生了什么意外，也不是说我们"
