读人工智能全传15意向立场.png

1. 物理立场

1.1. 可以解释一个实体行为

1.2. 在物理立场中，我们使用自然法则(物理、化学等)来预测系统的行为结果

1.3. 虽然物理立场在解释这种行为的时候非常有效，但无法应用于理解或者预测人类行为

1.3.1. 因为人类的行为太过复杂，无法用这种方式去理解

1.4. 物理立场也不是理解计算机或者计算机程序行为的一种切实可靠的方法

1.4.1. 典型的现代计算机操作系统的源代码长达数亿行

2. 设计立场

2.1. 在这种立场下，我们根据系统应该实现的目的进行理解，并预测系统行为，即它的设计目的

2.2. 我们不需要使用物理定律去理解闹钟的行为，我们知道它是时钟，就明白它显示的数字指的是时间，因为时钟就是用来显示时间的

2.2.1. 在指定时间发出刺耳的噪音也是闹钟设计的目的

2.3. 这种解释不需要了解时钟的内部机制，不需要了解闹钟的具体物质构成方式、力学作用等，只需要了解它被设计出来的目的即可

3. 意向立场

3.1. 将心理状态——诸如信念、欲望等归因为实体，然后使用与心理状态有关的常识去预测实体将如何行动，假设它根据自己的信念和欲望做出选择

3.2. 意向立场是具有解释力的，它允许我们解释人们做了什么，以及他们将(可能)做什么

3.3. 与设计立场一样，意向立场对实际产生这些行为的内部构造是不关心的

3.4. 社会生物的属性与我们使用意向立场密切相关，理由是它似乎能够让我们理解和预测社会中其他智能体的行为

3.4.1. 当我们身处复杂的社会关系中，会陷入更高层次的意向思维中，于是个体的计划(不管是我们自己还是我们观察到的人)会受到其他智能体行为的影响，这里的行为可以定义为可预期的有意识的行为

3.4.2. 意识思维在人类社会中普遍存在，我们也依靠它进行社交

3.5. 意向立场在人类社会中扮演着重要的角色，但它也适用于其他实体

3.6. 对一台机器的意向立场的解释应该表达出关于机器的信息，就如对人的意向立场会表达出关于人的信息一样

3.6.1. 当我们不了解一个实体的内部构造时，意向立场是最适用于解释它的

3.6.2. 意向立场提供了一种独立于内部结构和操作(例如，它是人、是狗还是一台机器)来解释和预测行为的方法

3.6.2.1. 如果你是一个理性的智能体，有保持干爽的愿望，并且相信正在下雨，那么我可以解释和预测你的行为，而不需要了解你的任何其他信息

4. 意向系统

4.1. 用来描述那些行为可以被有效理解和预测的实体，这些实体的行为可以归因于它们的信念、欲望和理性选择

4.2. 意向系统有着自然的层级结构，越往上越复杂

4.2.1. 典型的一阶意向系统确实广泛存在，但更高层次的意向性就意味着更高的门槛

4.2.2. 一阶意向系统有着自己的信念和欲望，但没有关于任何有关信念和欲望的信念和欲望

4.2.3. 二阶意向系统能够对信念和欲望产生信念和欲望

4.2.4. 几乎不会用到超过三阶的意向立场等级

4.2.4.1. 除非我们研究人工智能的活动，比如解决一个谜题

4.2.5. 对我们大多数人而言，似乎超过五阶就很难厘清了

4.2.6. 高阶意向推理能力大致上是大脑额叶相对大小的线性函数

4.2.6.1. 由于大脑的体积与社会群体的大小密切相关，因此，对于大脑自然进化的解释是为了满足在复杂社会体系中对社交推理(高阶意向推理)的需要

4.2.6.2. 更大的社会群体会对更高阶的社交推理提出更高的要求，从而解释了邓巴所确定的大脑体积和社会群体规模之间的关系

4.3. 社交推理的进化足以支持复杂的社会网络和大型社会群体

5. 智能体

5.1. 以前，构建一个人工智能程序，代表我们独立行动，理性地实现我们的偏好

5.2. 现在讨论的智能体，从某种意义上来说，似乎是一种跟我们有着相似属性的实体，就像有自主能力的演员

5.3. 智能体能够处理具有庞大分支因子的游戏

5.3.1. 游戏中存在有关游戏状态或者其他玩家行为的不完美信息

5.3.2. 游戏中执行的操作或许要等到很久以后才能得到奖励的反馈

5.3.3. 智能体必须执行的操作不是简单的二元决策，例如打砖块，而是涉及冗长而复杂的操作序列，还可能存在与其他玩家的协作或者竞争

5.4. 智能体被放在一个需要有意义的、复杂的高阶意向推理的场景中进行学习

5.5. 是一个需要智能体说出复杂谎言的场景，这也意味着需要高阶意向推理能力

5.6. 是在一个场景中，智能体学会了交流，并且能够有意向地表达出自己和其他实体的意识状态

5.7. 如果一个人工智能的智能体系统能够学会有意义地去做这些事情，那就是通往有意识的机器之路

6. 莎莉-安妮测试

6.1. Sally-Anne test

6.2. 这个测试被用来帮助诊断儿童自闭症

6.3. 自闭症是一种严重而常见的精神疾病，在儿童时期就会表现出来

6.4. 典型表现是缺乏正常的灵活性、想象力和伪装本能

6.5. 心智理论

6.5.1. Theory of Mind

6.5.2. 心智理论能力是一种实际的、常识性的能力，成熟的成年人拥有这种能力，能够对自己和他人的精神状态(信念、欲望等)进行推理

6.5.3. 人类并不是天生就拥有心智理论能力的，但临床上正常的人类天生就有发育它的能力

6.5.4. 名叫ToMnet(心智理论网络)的神经网络系统，它能够学习如何对其他智能体建模，并在类似莎莉-安妮测试的情况下选择正确的行为

6.5.4.1. 这项研究还处于一个非常原始的阶段，解决莎莉-安妮测试问题还不足以证明人工智能拥有意识

6.6. 它给了我们一个目标：能够通过自主学习达到人类心智理论水平的人工智能系统

7. 像我们一样

7.1. 大脑是人体主要的信息处理器官，当我们执行诸如解决问题、理解故事等任务时，大脑起着很重要的作用

7.2. 真实的大脑是一个由各种组件紧密结合在一起的系统，这个系统包含的组件极其复杂，自从生命第一次出现在这个蔚蓝色的星球上，这个系统作为一个单独的有机体已经进化了数十亿年

7.3. 我们目前拥有的能力——包括意识思维——是进化推动了原始祖先的结果

7.3.1. 历史记录可以给我们一些线索，关于意识的某些元素是如何以及为何出现的

7.4. 每一个现存的类人猿——包括智人(即我们人类)——在1800万年前都有一个共同的祖先

7.4.1. 到了600万到700万年前，智人和大猩猩、黑猩猩分道扬镳

7.4.1.1. 智人开始花费更多时间在地上行走，而不是在树上攀爬，最终发展到可以使用双腿直立行走

7.4.1.2. 智人需要更庞大的社会群体来保障生存，这就要求我们进化出容量更大的大脑来支持社交推理技能

7.4.2. 在大约50万年前，原始人才开始普遍使用火

7.4.2.1. 为了避免火灾，火的使用需要管理和维护，这就需要人们有合作的能力，以便轮流看管火堆、收集燃料等

7.4.2.2. 这种合作或许促使了高阶意向推理能力(为了理解彼此的愿望和想法)的出现，还有可能催生出了语言能力

7.5. 我们无法精准地重建进化的先后顺序，以及它们带来了哪些新的能力

7.5.1. 解读人类成熟的意识中一些必要的组成部分是如何以及为何出现的

7.6. 图灵认为如果机器正在做的事情与“真实的人类所做的事情”无法区分，那么我们就应该停止争论机器究竟是否存在“真正”的意识

7.6.1. 如果它能够通过我们所发明的任何合理的测试，让我们无法区分，这可能就是我们想要的结果了