我注意到 AI 相关 推特最近在谈论很多关于进化的话题，这是有充分理由的。将 AI 发展与进化系统进行比较，可以让我们进行一种维度分析并模糊地瞥见未来。它可能有助于以 G.I. 的方式估计 AI 的规模和行为趋势。泰勒根据刊登在杂志上的一系列图片估算了原子弹释放的能量（当时的机密信息）。
这是我希望将 AI 开发视为进化系统的系列文章的第一篇。
地球上的生命 - 间断平衡
历史是发明与灾难之间不断的竞赛。教育有帮助，但还不够。你也必须跑。 - 沙丘神帝雷托二世
在 Niles Eldredge 和 Stephen Jay Gould 提出间断平衡之前，人们认为进化以渐进的方式继续进行。每个人都熟悉这个想法；微小的突变在数百万年的时间里积累，缓慢而肯定地导致了各种特殊的、“适合”的物种。
一个一直困扰进化生物学的问题是，一个物种经常会出现在化石记录的某个地方，并且在数百万年内基本保持不变，然后突然迅速适应为截然不同的新形式。这些爆发很难与逐渐进化所预测的缓慢和线性变化相协调。
相反，间断平衡将其视为常态，不仅表示这是预期的，而且长期的相对停滞期被突然中断和重组的时期“打断”是进化运作方式的基本特征。
这种模式在整个化石记录中反复出现，但每个人最喜欢的例子是寒武纪大爆发。经过40亿年的地球历史，复杂生命的上限在“多细胞滤食动物”附近。在那个时期即将结束时，在大约 2000 万年的时间里（约占当时历史的 5%），由于氧气水平上升，出现了前所未有的多样化。
有氧呼吸在寒武纪大爆发之前已经存在了一段时间，但充足的氧气使其具有可扩展性。有氧呼吸的效率是无氧呼吸的 18 倍，如果有足够的氧气，这使其成为一种极好的生存策略。鉴于氧气的临界质量，高度复杂和能源密集型生命具有经济意义，因为依赖氧气变得可持续。
在那短短的时间内，今天“现代”门的基本形象突然出现，包括节肢动物、脊椎动物、软体动物和其他你听说过的东西。在爆炸期间，发生了一些不同于以往所见的根本性创新，使地球上的生命变得更加有趣。举几个例子：
- 坚硬的身体部位：贝壳、骨骼
- 感觉器官：基本的眼睛、振动和化学传感器
- 广泛代理：游泳、穴居、捕食
活着是多么美好的时光啊。
发明的发明
进化、自然选择和间断平衡的影响超出了分子生命的出现。观察一个系统并将其与进化相提并论的技巧被称为普遍达尔文主义。很多东西就像一个生态系统，我们对分子生命的了解让我们对它们有了很多了解，包括文化、音乐、语言、模因等等。
如果你仔细观察经济，你会发现它看起来也很像一个生态系统。在一个由人员、野心、产品、服务和需求组成的复杂网络中，您会看到一场进化的军备竞赛，可购买的商品不断进化并竞争, 以在人类欲望的环境中生存。
不用多想，请注意从表面上看，咖啡杯的增殖看起来很像青蛙的增殖。随着时间的推移，咖啡杯呈现出不同的尺寸、形状、颜色等，每一种都可以适应不同的需求和个人品味。同样，不同的青蛙已经调整了它们的要求、伪装和生活在特定变化的潮湿环境中的能力。一个不起眼的、标准的、“看起来很专业”的杯子很适合征服办公楼的热饮小众市场，就像豹蛙很适合在北美占据普通的静水一样。
事情并不总是那么复杂。一开始，我们的产品和服务经济几乎就是石刀和石锤，然后放火烧东西。然后以寒武纪的方式，在人类历史的一小部分中，大量全新的东西突然冒出来。在财富的起源，Eric Beinhocker 巧妙地指出：
简单总结一下250万年的经济史：在非常、非常、非常长的时间里没有发生太多事情；然后突然间，一切都乱套了。
经济像复杂的生命；正如有氧呼吸的诞生有一个氧气浓度阈值一样，似乎也有一个抽象的认知阈值，一旦超过，就可以进行系统的发明。随着我们智力的提高，我们跨越了过度认知资源的临界点，使我们能够敏锐地注意到我们可以管理周围环境并根据我们的需要系统地塑造它们的方式。这标志着从通过保存生存知识来生活到通过创造生存知识来生活的转变。大量工具和发明诞生，催生出复杂的经济。
现在，我们每个人都拥有大约 300,000 件东西，原因有很多，每个物品都出于同样的原因存在：它可以提供价值。通过各种办法，每件商品都说服某人在某个地方为它付费，同时因为价格足够便宜，人们也可以从商品中得到好处。
最终，在人类创造力的临界点的推动下，我们面临着惊人的选择多样性。有些人是无私的，出于善良而激励你；可以选择购买营养丰富的西兰花。但如果你不注意，一个位置合适的广告会让你买一个巨无霸。两者目的相同，但方式不同。
总体模式是，一旦启动，进化系统将以不可预测和创造性的方式填补每一个可能的生存空隙。当某个产品可以为人们带来价值，市场就会自发地出现，让人们购买它。同样，生命会无情地渗透到任何空间，通过任何可能的方式。当生命或者创新偶尔跨过一个门槛，进化光锥突然变宽，游戏就会变得更加复杂和有趣。
音乐椅
这最终将我们带到了 AI 领域；一个由数学、工程、科学、哲学、硬件、软件和公众界面组成的网络。它为什么在这里，它在做什么？
进化和间断平衡就像抢椅子游戏。在均衡时期，椅子的数量是有限的，生存意味着你能坐到什么位置就坐什么。你所能做的就是做一些小的改进，比你的邻居抢先一步；就像一只伪装得更好的豹蛙。每个小改动会产生一个全新的游戏，里面有更多的椅子。
所有的进化系统都是以生存为基础的。在经济中，被收购是关键。在追求人工智能的过程中，“看起来聪明”是关键。随着新想法和技术的出现，正是那些看起来很聪明的项目获得了炒作和资金，并激发了未来的变化。
这是你可以在 AI 的春天和冬天的历史上看到的模式。当系统展示出以前不可能的很酷的新行为时，春天就来了。一个定理证明程序，一个模拟数字识别器，超人象棋。投资者兴奋，资金流动。当每种技术都无法推广、看起来不再那么聪明、投资者失去兴趣时，冬天就来了。
2000 年代的人工智能春天略有不同，新系统虽然对大多数人来说并不“智能”，但足以产生经济价值。他们足够好，可以找到一个利基市场并坚持下去。像回归模型和简单的神经网络这样的“愚蠢的人工智能”， 通过提供一些基本的功能，比如价格预测或更好的语音识别，来获得资金流维持生存 。
资金持续存在是因为这些东西很有用。它持续了足够长的时间，以至于该领域幸运地实现了重大创新。大型语言模型标志着 AI 中的关键点。它们代表的不仅仅是梯度上的一步；而是一个有着一套新规则的全新游戏。新的应用程序正在激增，进入一个似乎非常深的可能性空间。这就像眼睛和运动如何将生命从海底解放出来并赋予它整个海洋。
似乎语言模型可以强大而通用，足以引发持续的反应；他们不仅会填补市场，还会创造市场。寒武纪大爆发后，随着时间的推移，生物体有可能完全远离海底生活。有足够多的生物可以在远离地面的地方找到能量和资源，从而在地表附近为自己创造了一个全新的、基本上独立的生态圈，并使自己摆脱了居住生活的束缚。类似地，语言模型的使用往往会为语言模型创造更多的生存空间。想要调节您的语言模型？您可以使用另一种语言模型来做到这一点。这就像如果有足够多的小鱼来到海底，掠食性鱼类就有机会以它们为食，从而完全生活在海底。或者购买 iPhone 会让你想要一个保护套、AppleCare、以及许多其他你不会购买的物品。
这在语言模型的情况下会是什么样子很难说。一个非常极端和奇幻的形象是，AI 最终将自己从经济约束中解放出来，创建一个独立的 AI 代理“经济圈”，类似于 Dan Simmons 的 Hyperion Cantos 中的 TechoCore。在那个时间轴上，AI 系统发展出足够的代理来自我分离来自人类并继续并行运作；独立于人类的关注，只在他们认为对他们的目标有帮助的地方参与。
更实际的是，人工智能的利基市场将在数字和物理领域得到扩展。在数字方面，令人惊讶的新应用正在出现，因为人们认识到“生成文本”不仅仅可以用于喋喋不休。从形态上讲，语言模型应用程序将超越表面上与生成文本有关的工作，例如聊天机器人和代码完成。谷歌的 PaLM-E 等用例暗示了这一点，其中语言模型用于规划由物理机器人执行的复杂动作序列。同样，微软的 Kosmos-1 在用户界面内部规划和执行序列。像 LangChain 这样的工具正在不断发展，以促进这些“思想链”和外生交互。
另一方面，硬件的稳步改进和语言模型效率的惊人快速提升表明它们也将在物理空间中扩散。截至目前，GPT3 和 4 等语言模型仍处于 Azure 数据中心的黑暗中。不过，性能尺寸减小，如 Meta 的 llama 表明硬件要求将变得不那么严格。 Georgi Gerganov 的 llama也证明了让它们在普通计算机上运行起来已经是可行的。有人让 llama 7B 在 4GB 树莓派上工作。
总的来说，事情会看起来很有趣。语言模型似乎不可避免地会在个人计算中扮演越来越重要的角色，并渗透到许多令人惊讶的地方。 很有可能，它甚至会进入普通技术。很快，你的 Roomba 不仅会避开狗屎，还会告诉你那些 Doritos 就在靠近咖啡桌边缘的地方，你的小狗醒来后会对它们感兴趣。
结论
一场生存的进化竞争导致了无法形容的各种生物通过各种不同的方式存在于各种不同的地方。一场让人们购买东西的进化竞争导致人们出于真正无法计数的目的和原因拥有大量愚蠢的东西。满足人类所谓的“智能”的进化竞争会导致……？
将它们结合在一起，可能会出现大规模的多样化，而且几乎可以肯定，它的目标将极其多样化。我们知道，进化可以而且将会以任何可能的方式将其触须伸入它可以进入的任何空间和领域。可怕的是，“智能”是没有色彩的；它是一种没有明确目的的手段 . AI 将在许多方面帮助我们提高工作效率、健康和满足感。它还将在其操纵、破坏和战争的深层能力中找到归宿。最终，它可能会自行定义新家。从这里没有回头路可走。
它将向我们呈现，有时是有力的，许多新的而且往往是对立的能力和选择。就像大自然创造维持生命的资源和终结生命的掠食者的方式，以及经济如何向我们出售改善生活的产品但也操纵我们购买恶化生活的产品。
最重要的是，涌现将发挥主导作用。预测未来 AI 景观的具体方面有点像 40 亿年前有人问：“如果给原始植物多一点氧气会发生什么？”。许多不可预见的形态、能力和生态位将通过高度奇怪和动态的生态系统创造的神秘机会而出现。
其中一些我们会看到，而另一些则不会。注意安全！
网友评论