人工智能更像是石油，而不是上帝。它是一种经济实用的商品，可以规模化和提炼，对我们所做的一切产生倍增作用。汽油并没有取代马车，而是让马车载着人类走得更远、更快。
如果人工智能是上帝，各国政府就应该将其封锁。但如果人工智能是石油，各国政府就应该尽一切努力促进其发展，并激发各国的创业活力，将其提炼成更多有用的产品。
如果人工智能是上帝，你不妨放弃。但如果人工智能是石油，你可以庆祝每一次进步，将其视为你掌握的又一个工具，并为这些进步必然带来的真正颠覆和机遇做好规划。
相信人工智能会成为上帝是虚无主义，相信人工智能就是石油则是乐观主义。
整个兔子洞始于几周前，当时正值另一个金发姑娘区。我罕见地开了一次长途车，孩子们在后座上睡着了，而 Puja 不在前面。如果她当时在场，她绝不会让我听四个小时的Dwarkesh Patel 和 Leopold Aschenbrenner ，这可以理解。
利奥波德是一位年轻的天才（19 岁时，他以哥伦比亚大学班级第一名的成绩毕业），最近被现已解散的 OpenAI Superalignment 团队解雇。他刚刚发表了一篇论文《情境意识：未来十年》，他在论文中指出，按照我们目前的发展轨迹，我们很可能在 2027 年拥有 AGI，并在不久之后拥有超级智能 (ASI)。
“这并不需要相信科幻小说；”他在推特上写道，“它只需要相信图表上的直线。”
在论文和播客中，Leopold 提出，在更多的计算、更高效的算法和“解除束缚”之间，我们将在未来三年内将“有效计算”规模扩大 3-6 个数量级（增加 10 倍，“OOM”），这一飞跃与从 GPT-2 到 GPT-4 一样大。
如果这一飞跃将模型从学龄前儿童转变为聪明的高中生，那么下一次飞跃是否会将其从聪明的高中生转变为任何领域的博士？这难道不是 AGI 吗？
听完这篇论文，然后读了这篇论文，我感到一种认知失调：我同意利奥波德的逻辑，但结论感觉不对。经过一番思考，我想我明白了原因。
我同意 Leopold 的观点，我们应该相信曲线。我不同意的是，GPT-4 是一个聪明的高中生。
因此，本文将做三件事：
回应利奥波德的论点。
解释一下为什么这可能意味着我们正走向人工智能金发姑娘区。
如果人工智能是新的石油，看看那个区域的世界会是什么样子。
GPT-4 与聪明的高中生不一样，但如果我们要拟人化，那就让我们拟人化吧。
网友评论