1. 机器智能的未来

1.1. 没有任何技术原因阻止我们创造智能机器

1.1.1. 障碍在于我们缺乏对智能的理解，也不知道产生智能所需的机制

1.2. 历史表明，我们无法预测将推动机器智能向前发展的技术进步

1.2.1. 1950年，没有人能够预测那些推动计算机加速发展的创新和进步

1.2.1.1. 集成电路

1.2.1.2. 固态存储器

1.2.1.3. 蜂窝无线网络通信

1.2.1.4. 公钥加密技术

1.2.1.5. 互联网

1.2.2. 没有人预料到计算机将如何改变媒体、通信和商业

1.2.3. 今天同样不知道智能机器将会是什么样子，以及70年后我们将如何使用它

1.2.3.1. 机器智能对21世纪的影响将超过计算机对20世纪的影响

1.3. 了解大脑产生智能的机制，我们就能知道什么是可能做到的，什么是不可能的，以及什么样的进步在某种程度上是可能实现的

2. 设计智能机器

2.1. 人类大脑中，较早进化出的部分控制着生命的基本功能

2.1.1. 它们创造了人类的情感，生存和繁衍的欲望，以及人类先天的行为

2.2. 在创造智能机器时，我们不必复制人类大脑的所有功能

2.2.1. 新脑，即大脑新皮质，是体现人类智能的器官，智能机器需要具备与之相当的东西

2.2.2. 大脑的其他部分，我们可以选出一些我们想要的部分

2.3. 地图本身并没有规定这些用途，也没有赋予它的使用方式任何价值

2.3.1. 就是一张既不凶残也不爱好和平的地图

2.3.2. 有些地图可能更适用于战争，而有些地图则更适用于贸易

2.3.3. 发动战争或进行贸易的欲望均来自使用地图的人

2.4. 智能是一种系统学习世界模型的能力

2.4.1. 目标和价值由使用该模型的系统提供

2.5. 大脑新皮质会学习一个世界模型，这个模型本身并没有目标或价值

2.5.1. 大脑新皮质并不能创造目标

2.5.1.1. 大脑新皮质虽然比旧脑大得多，但它由许多相对较小的元素皮质柱组成

2.5.2. 指导我们行为的情感是由旧脑决定的

2.5.3. 如果一个人的旧脑具有攻击性，那么它就会使用大脑新皮质中的模型更好地实施攻击性行为

2.5.4. 如果另一个人的旧脑是仁慈的，那么它就会使用大脑新皮质中的模型更好地实现它仁慈的目标

2.6. 智能机器需要一种世界模型，以及这种模型带来的行为灵活性

2.6.1. 不需要拥有类似人类的生存和繁衍本能

2.6.2. 设计一台具有人类情感的机器比设计一台具有智能的机器要困难得

2.6.2.1. 为了构建一个拥有人类情感的机器，我们就必须重建旧脑中的各个部分

2.7. 设计智能机器可以从三个部分着手

2.7.1. 具身（embodiment）

2.7.1.1. 要学习一种新工具，我们必须把它握在手里，不断转动它，用眼睛观察并注意其不同部位

2.7.1.2. 智能机器还需要传感器和移动这些传感器的能力

2.7.1.2.1. 被称为“具身”

2.7.1.3. 具身甚至可以是虚拟的，如探索互联网的机器人

2.7.1.3.1. 动作和位置不一定存在于物理空间

2.7.1.3.2. 智能机器只需使用软件就可以在不进行运动的前提下做到同样的事

2.7.1.4. 当下的大多数深度学习网络都没有一个具身

2.7.1.4.1. 它们没有可移动的传感器，也没有参考系确定传感器的方位

2.7.1.4.2. 在没有具身的情况下，能学到的东西是有限的

2.7.1.5. 可用于智能机器的传感器几乎有无限种

2.7.1.5.1. 人类的主要感官是视觉、触觉和听觉

2.7.1.5.1.1. 人类的视觉、触觉和听觉都是通过传感器阵列实现的

2.7.1.5.1.2. 嗅觉和味觉与视觉和触觉在性质上是不同的

2.7.1.5.1.3. 感知嘴里的东西时，味觉也具有局限性

2.7.1.5.1.4.

气味和味道可以帮助我们判断食物是否安全，气味可以帮助我们确定一个大致的区域，但我们不会过于依赖它们来了解世界的详细结构

2.7.1.5.1.5. 听觉介于二者之间

2.7.1.5.1.5.1. 通过利用两只耳朵和声音从外耳反射的方式，我们的大脑可以比定位气味或味道更好地定位声音，但这种定位能力仍然不如视觉和触觉

2.7.1.5.2. 蝙蝠则拥有声呐

2.7.1.5.3. 有些鱼拥有能发出电场的感官

2.7.1.5.4. 能够在倒塌的建筑物中营救人类的机器人可能有雷达传感器，这样它就能在黑暗中看到东西

2.7.1.6. 智能机器要想学习世界模型，就需要可以移动的感觉输入

2.7.1.6.1. 智能蛋白质机器（intelligence

protein machine）的大脑可能存在于一个典型的计算机中，但该智能机器的运动和传感器的作用范围非常小，是在细胞内部

2.7.1.6.2. 一个存在于单个细胞内、了解蛋白质的智能机器

2.7.1.6.2.1. 蛋白质是长分子，可以自然折叠成复杂的形状

2.7.1.6.2.2. 我们的大脑并不擅长理解蛋白质

2.7.1.6.2.3. 蛋白质起作用的速度也比大脑的处理速度快得多

2.7.1.7. 分布式大脑是另一种不同寻常的具身

2.7.1.7.1. 人类的大脑新皮质大约有15万根皮质柱，每根皮质柱都对它能感知的部分世界建模

2.7.1.7.2. 一个智能机器可能有数百万根皮质柱和数千个传感器阵列

2.7.1.8. 应该内置与机器具身密切相关的行为

2.7.2. 旧脑部分

2.7.2.1. 要创造一台智能机器，需要大脑的旧脑部分

2.7.2.1.1. 智能机器也需要一些旧脑的功能

2.7.2.2. 基本的运动就是其中一项需求

2.7.2.2.1. 大脑新皮质并不直接控制任何肌肉

2.7.2.2.1.1. 它会向大脑中更直接控制运动的旧脑发送信号

2.7.2.2.2. 动物在进化出大脑新皮质之前，就需要走和跑了

2.7.2.3. 旧脑部分的行为原语并非都是固定的，它们也可以随着学习而改变

2.7.2.4. 智能机器还需要内置安全性

2.7.2.4.1. 任何产品设计，都需要考虑一些安全措施

2.7.2.4.2. 如果汽车发现司机要撞上一个障碍物，它就会无视司机的指令，采取制动措施

2.7.2.5. 智能机器必须有目标和动机

2.7.2.5.1. 人的目标和动机很复杂，有些是由我们的基因驱动的

2.7.2.6.

旧脑可能还会释放一种叫作神经调节剂的化学物质，直接进入大脑新皮质的广阔区域中，大致是告诉大脑新皮质：“不管你刚才在想什么，都不要那样做。”

2.7.2.7. 赋予机器目标和动机，需要我们为目标和动机设计特定的机制，然后将它们嵌入机器的具身

2.7.2.8. 目标和动机不是智能的结果，也不会自行出现

2.7.3. 大脑新皮质

2.7.3.1. 大脑新皮质实现了一个近乎通用的算法，但这种灵活性是有代价的

2.7.3.2. 它并没有创造出全新的行为，而是学习如何以新的和有用的方式将现有的行为组合在一起

2.7.3.3. 行为的原语（primitive）可以像弯曲手指那样简单，也可以像走路那样复杂，但大脑新皮质要求这些行为本身存在

2.7.3.4. 大脑新皮质本身并不会创造目标、动机或情绪

2.7.3.5. 大脑新皮质与动机和目标影响行为的方式紧密相关，但大脑新皮质并不引导行为

2.7.3.6. 速度

2.7.3.6.1. 神经元做出有用的行为至少需要5毫秒

2.7.3.6.2. 硅晶管的运行速度是神经元的100万倍

2.7.3.6.3. 由硅制成的大脑新皮质可能是人类思考和学习速度的100万倍

2.7.3.6.4.

一个智能机器的一部分速度是生物大脑的100万倍，并不代表整个智能机器的速度也可以达到这一水平，也不代表它习得知识的速度会这么快

2.7.3.6.5. 如果使用智能机器，人类在火星创造宜居环境的整个过程可能会快几倍，但不会快100万倍

2.7.3.6.6. 计算机会完成人类以前用手完成的任务，它的速度比人类要快100万倍

2.7.3.6.6.1. 智能机器也将对人类社会和人类进行科学发现的速度产生类似的影响

2.7.3.6.7. 用智能机器代替人类来研究神经科学可以加快科学发现的速度，但不会快100万倍

2.7.3.6.8. 时间花在阅读论文、讨论各种可能的理论和编写软件上

2.7.3.6.8.1. 原则上，其中一些工作可以由智能机器更快地完成

2.7.3.6.8.2. 但是我们的软件模拟仍然需要几天才能运行完

2.7.3.6.8.3. 我们的理论并不是凭空发展起来的，而是依赖于实验

2.7.3.6.8.3.1. 神经科学并不是特例，几乎所有的科学探索都依赖于实验数据

2.7.3.6.8.3.2. 我们不能大幅加快望远镜和粒子探测器的研制速度，也不能缩短它们收集数据的时间

2.7.3.6.9. 智能机器也可以大幅加快一些领域的研究工作

2.7.3.6.9.1. 数学家的主要工作是思考、写作和分享思路

2.7.3.6.9.2. 理论上，智能机器处理某些数学问题的速度是人类数学家的100万倍

2.7.3.6.9.3. 智能网络爬虫学习的速度受限于它通过跟踪链接“移动”并打开文件的速度。这个过程可以非常快

2.7.3.7. 容量

2.7.3.7.1. 我们的大脑新皮质变大了，我们变得更聪明了

2.7.3.7.1.1. 机器智能也可以遵循同样的机制

2.7.3.7.2. 能制造出的人造大脑并没有明显的大小限制

2.7.3.7.2.1. 扩大大脑新皮质的某些区域可能会产生一些影响，但不会给你带来某种超能力

2.7.3.7.2.2. 大多数人都会认为人类比猴子聪明，我们的大脑对世界建立的模型更深刻、更全面

2.7.3.7.2.3. 智能机器可以在理解深度上超越人类

2.7.3.7.2.3.1. 并不一定意味着人类不能理解智能机器学习的东西

2.7.3.7.2.3.2. 就好比即使我不可能得出爱因斯坦那样的发现，但我也能理解他的发现

2.7.3.7.3. 我们刚出生时，大脑新皮质中的脑回路数量过多。在接下来的几年里，脑回路的数量会显著下降

2.7.3.7.4. 智能机器没有与脑回路相关的约束

2.7.4. 可复制的机器智能

2.7.4.1. 我们可以在任何时候复制智能机器，克隆它

2.7.4.2. 只要机器人的能力达到令人满意的程度，我们就可以将它学习的连接迁移到其他十几个相同的机器人上，从而创造副本

3. 机器智能未知的未来应用

3.1. 每创造一项新技术，我们都会想象用它来取代或改进我们熟悉的东西

3.2. 没有人能预料到的新用途出现了，而正是这些意想不到的用途通常会成为最重要的用途，并会改变整个社会

3.3. 互联网协议刚出现时，很少有人能预见这些社会变化

3.4. 人工智能的目标是模仿人类，这一概念在著名的“图灵测试”中得到了体现

3.5. 危险性工作和危害健康的工作，这些工作可能对人类来说风险太大，如深海修理或清理有毒物质泄漏

3.6. 使用智能机器来完成缺乏足够人力完成的任务，比如看护老人

3.7. 学习科学知识是一个令人激动的应用

3.7.1. 人类想要学习，于是被吸引着去探索，去寻求知识，去理解未知

3.7.2. 当智能机器能比我们思考得更快更深入，能感知我们感知不到的东西，能去我们无法去的地方旅行，谁知道我们会学到什么