本文是美国Interval Research Corporation的Anthony Bell发表于《The Royal Society》上的一篇文章，题为《Levels and loops: the future of artificial intelligence and neuroscience》。下面为部分译文。原文链接：doi:10.2307/3030158 

全文摘要

在讨论人工智能和神经科学时，我将主要关注两个主题。

第一个是循环/推论的普遍性：当前研究揭示了丰富的因果关系和控制揭示，但变量间存在影响可能具有误导性。

第二个是，计算机本质上一个二元论实体，它的物理设置有一个前提是“不干扰其执行计算的逻辑设置”。然而，人的大脑是不同的。当从几个不同的层次（细胞、分子）进行经验分析时，似乎没有令人满意的方法将物理大脑模型（或算法、或表示）从物理实现的基础上分离出来。如果程序和实现不可分割，两者相互干扰，那么二元论的观点就不可能成立。在经验主义的一元论观点的强迫下，“脑-心”既没有被物理现实所体现，也没有被物理现实所嵌入，而是与物理现实完全相同。

这一观点对科学和社会的未来有影响。我将从一个消极的角度来看待这些问题，通过批判千禧文化中的一些流行（文化/元素）来预测未来。

一、引言

在本文中，我将回顾人工智能（AI）和神经科学的近代史、现状和未来展望。我将试图把有关领域对整个社会的社会动机和潜在影响联系起来。

二、科幻小说的未来

千禧年是一个很重要的社会现象，其中出现的一些流行文化/事物/元素影响着未来的科学。因此，值得研究2000年出现了哪些让人印象深刻的事物。这些事物可能萌芽于20世纪后期的科普书、科幻小说、电影、新闻中。以下举一些例子：

纳米机器人将对我们的身体进行所有的分子修复，使我们有效地长生不老。高度工程化的药物，也许是百忧解（Prozac）和摇头丸（Ecstasy）的后代，将治疗情感障碍，作为一种解决所有社会问题的副作用，让每个人（最终）都感到快乐。

这是为了那些怀旧的少数人，他们坚持以原始的生物形式生活。更多有网络意识的人会把自己下载到“网络”中，像威廉·吉布森（William Gibson）的角色一样存在于一个能为所有主角提供最精彩娱乐的全球计算机网络中。随着人口向“网络”转移，许多全球性问题将得到解决，比如人口、食品、交通和能源等问题。

“网脑Net-heads”将会被转嫁的方式“Worldbots”,数字机械生命形式将首先缓解人类生命通过执行普通任务,但不久将成为比美国unenhanced聪明,他们将几乎成为“精神上的机器”,这可能会或可能不会使用自私的利他主义决定向人类的动物是良性的,如果我们幸运的话,他们将继续为我们服务,诸如数字菩萨。

回到网络世界，个人之间的界限将被打破，超人类生命形式将出现，类似于海洋中多细胞生命的出现。植入机器人宇宙飞船后，这些生物将像第一只两栖鱼类一样笨拙地进入太空。在此之后的很长一段时间内，或许在几次银河战争之后（在这场战争中，“黑暗面”可能会短暂地出现，但不会永远加入其中），宇宙将成为一个巨大的互联网，物质无处不在，被拖入计算生活的过程中。它的极值叫做欧米茄点。（最后一个转折是，由于欧米茄点没有加入黑暗面，可能再次使用博弈论的推理，它将决定是良性的，复活每一个曾经生活过的人，给他们最想要的东西。这被Tipler（1995）称为犹太-基督教的天堂。吉布森（1986）、莫拉维克（1990）和库兹韦尔（1999）是构建这一版本未来历史的参考文献。

这些惊人的发展几乎是数字世界和有机世界融合的必然结果，而我们正站在这个融合的门槛上。手机和笔记本电脑只是开始。我们可以把这个未来称为生物信息时代，与它的千禧年时间相一致，与它与新时代哲学元素相融合的流畅性相一致。

三、当前的科学工作

这的确是一幅令人眼花缭乱的画面，但其中有多少（如果有的话）会成为现实呢?如果这一切都不可能发生，如果科学能够告诉我们为什么，那将是非常有帮助的，这样我们就可以继续过我们真正的未来。

科学的困难在于，生物信息未来的前景，以及它的半机械人、超个人的主题，会让我们提出有关个性、意识、心智和机器的问题，而这些正是科学在构建这些问题上最不成功的地方。

人工智能和神经科学是工程学和生物学中最接近构建这类问题的领域。触及许多人工智能研究人员和神经科学家的表面（可能相当活跃），你可能会发现有人一开始就问“我们是什么?”

这个问题的答案并不多。

要么我们成为机器，在这种情况下，人工智能应该是可能的和神经科学应该能够解决算法（或算法），大脑正在运行，

要么成为别的东西，在这种情况下，两个项目会失败在他们的终极目标，这并不是说他们不会达到伟大的事情。（他们可能取得的伟大成就之一，就是准确地描绘出自己的极限。）

不管怎样，通过研究人工智能和神经科学的历史和现状，以及通过识别这些领域表面之下的问题，我们可能会对沿着科学内部前沿发展的重要主题有所了解（暂且不考虑这个前沿从外部看来有多么不同）。

四、人工智能的历史与现状

人工智能的最终目的是制造一个生活在这个世界上的机器人，它的大脑由电脑控制。因此，它假设生活和/或思考过程的本质可以在数字计算中捕捉到。

上世纪60年代，人工智能的首次尝试涉及使用各种准逻辑语言将事实和规则写入机器。在20世纪80年代，这变得不那么流行了。基于规则的系统被认为不健壮:它们不能很好地适应环境中的小变化。而且，每一个事实都必须由人类来编程。这使得人们认为需要实数、“次符号”系统，而这些系统必须能够通过观察数据来了解事实（或了解某些东西）。从历史上看，这种观点包含了20世纪50年代的控制论观点。

从这一转变到统计理论只有一步之遥。这个简短的步骤叫做神经网络（Haykin 1999）；它开始于1984年（Rummelhart & McClelland 1986），现在还没有结束。神经网络是一个跨学科领域，它对投机和自由探索的容忍度高于平均水平。神经网络深受学生和军方资助人的欢迎，但也常常受到与之接壤的其他学科的不满。随着这个领域变得越来越严谨，它通过对统计机器学习的共同兴趣，重新与主流人工智能建立了联系。从技术上讲，神经网络领域是无内容的。实证方面是神经科学的；理论方面是统计和信号处理。这也许就是为什么它是一个值得研究的伟大领域。

符号人工智能因此被转向统计学习理论所颠覆。人工生命领域（Langton 1997）和行为机器人领域（Arkin 1998）的出现也在另外两个方向上颠覆了这一理论。人工生命（或生命）是次符号，因为它含蓄地假设智能只是模拟生命过程的复杂终点。生物系统及其环境通常是一起模拟的，通常使用遗传算法和种群动力学来模拟进化。

基于行为的机器人在现实环境中勇敢地尝试处理机器人的感知运动回路，拒绝了生命仿真世界和主流人工智能对世界表征的概念。与Gibson（1979）在他与Marr（1982） （Bruce & Green 1990）的著名辩论中观点相呼应的是，“代理”文献关注的是来自与复杂环境紧密耦合的简单机制的复杂行为，而Marr强调的是来自感官数据的表征的前馈计算。

生命和基于行为的机器人技术缺乏像神经网络和数学统计机器学习那样的结构基础。这使得很难判断这些领域的进展或评估方法。然而，另一方面，神经网络学习知觉和运动行为的环境中是极其罕见的，和一个好的理由:很难建立一个统计模型的环境当系统的感知转化为行动，影响输入的数据。

此外，这样一个代理系统应该做什么?前馈感知系统有一个明显的目标:为发生的事情建立一个概率分布。这个分布中隐藏的对称性（依赖关系、冗余）是世界的隐藏结构。但是在这种循环的情况下，当世界至少部分是由系统的行为构成时，这种分布的形状是依赖于行为的——系统可以部分地选择存在哪些对称性，而一组隐藏的特权对称性的概念正受到威胁。这是统计学家的后现代主义。

在这一点上，大多数人会放弃信息或无人监督的目标，转而求助于机器人系统可能具有的许多特定目标之一，比如寻找食物或给电池充电。虽然这些毫无疑问很重要，但它们确实带有一种让我们感到不安的任意性:我们对个人经历中目标的变化非常熟悉，因此希望在不采取行动的情况下做出更一成不变的选择。

五、人工智能目前存在的问题

在这里，我们确定了当今多元人工智能表面之下的两个问题。

第一个问题，换句话说，就是为什么我们没有“感知-行为”周期/循环的数学理论。当然也有关于主动感知的研究，关于传感器-马达坐标系的研究，而工程机器人是充满数学的。但我的意思是，这种理论在描述循环系统时普遍适用，就像香农的信息论在描述通信通道，即前馈系统时一样。（顺便说一句，要使信道容量最大化，需要找到我们提到的那些隐藏在输入概率分布中的对称性。这是我最喜欢的神经网络领域——无监督学习的基本目标（Hinton & Sejnowski 1999）。

这隐含着第二个问题。我们希望这样一个后香农系统做什么?当前馈通道可能使感知-动作循环系统的容量最大化时，感知-动作循环系统应该最大化多少数量?

第三个问题是彭罗斯（Penrose， 1989）针对人工智能研究人员提出的，由于它引发的敌意和争议，你知道他在人工智能领域遇到了一个弱点。彭罗斯想知道，这个世界的物理基础，其中相对论和量子力学是我们最好的解释，是否可能与计算机的数字基础有足够的不同，使人工智能成为不可能。量子中有什么是心智所必需的吗?

嘲笑人工智能的哲学家将彭罗斯的立场描述为“我们不懂量子力学，我们也不懂意识，所以它们肯定是一样的东西”。

彭罗斯和史都华·哈默洛夫提出更具体的假设：量子意识通过一种叫做微管的蛋白质网络中的相干量子效应表现出来，微管构成了神经元（和其他细胞）的结构骨架。

批评家们被这些具体建议的奇异之处（这些对他的论点并不重要）所分心，可能会忽略彭罗斯对计算机的普遍怀疑的正确性:计算机是一种特别不寻常的人工制品，具有确定性、离散时间和离散状态。可以在数字级记录机器的整个状态。似乎没有任何自然物体具有这种性质。计算机实际上是一个模型的物理实例。我们知道一个模型可以计算，但它能活着或思考吗?

功能主义（人工智能的哲学）的基础是大脑的计算机隐喻，认为大脑是“心理程序”的硬件实现。但彭罗斯的论点实际上是为了提出对这种生理和心理过程分离的质疑。大脑是否真的能和 依靠其运行的有限可描述的心理过程分离呢？自从笛卡尔以来，我们的语言中就存在着概念上的分离，但这在科学上真的存在吗?

要么在物理层面上可以进行分离（类似于计算机逻辑门的层面），要么功能主义者必须承认，大脑不是一台机器。但对于实用主义者而言，未能找到一个类似计算机逻辑门的大脑层次结构，并不足以终结他们的争论，他们可能继续争论，如果有一台拥有宇宙所有信息的电脑在底部/层，AI还是可能实现的，等等话题。“作为计算机的宇宙（universe-as-computer）”在物理学领域是一个流行的边缘话题，它的背后是一种寻找有限离散过程的努力，比如细胞自动机，它可能是已知定律的基础物理。但是，在有人成功地证明这一点之前，我们或许应该更明智地坚持费曼的观点。费曼指出，量子过程在一般情况下是无法模拟的，甚至图灵机也无法模拟（图灵机在这个过程中产生了如今被称为量子计算的神秘而未成形的领域）。

科学家的幸运（或技巧）在于，有时他们不必进行哲学思考就能找到答案。他们可以直接问自然要答案。所以也许这是一个很好的点来调查神经科学的历史和现状，因为这是一个 对大脑过程的有限描述 的学科。