前言：
最近ChatGPT的不俗表现让大众开始关注人工智能这个原本看起来遥不可及的领域。这篇文章是比尔·盖茨在昨天发表的一篇关于自己对于AI的深刻洞见，非常值得一读。
正好今天上午我成功开通了GPT4的使用权限，尝试用它来翻译了整篇文章，虽然过程有些不及预期，但最终效果确实超过所有我用过的翻译软件。
原文链接：https://www.gatesnotes.com/The-Age-of-AI-Has-Begun
译文：
人工智能与移动电话、互联网一样具有革命性。
在我的一生中，我见证了两次让我觉得具有革命性的技术演示。
第一次是在1980年，当时我被介绍给了一个图形用户界面——现代所有操作系统的前身，包括Windows。我和向我展示演示的那个人坐在一起，他是一位名叫查尔斯·西蒙尼的杰出程序员，我们立即开始头脑风暴，想出了所有我们可以用这种用户友好的计算方法来做的事情。查尔斯最终加入了微软，Windows 成为了微软的支柱，我们在那次演示之后的思考为公司接下来15年的议程奠定了基础。
第二个大惊喜发生在去年。自2016年以来，我一直在与OpenAI团队会面，并对他们稳步取得的进展印象深刻。到了2022年中，我对他们的工作感到非常兴奋，于是给他们出了一个挑战：训练一个人工智能通过高级水平生物考试。让它能够回答没有专门接受过训练的问题。（我选择了 AP 生物，因为这个考试不仅仅是对科学事实的简单复述——它要求你对生物学进行批判性思考。）如果你们能做到这一点，我说，那么你们就取得了一个真正的突破。
我原以为这个挑战会让他们忙上两三年。结果，他们仅用了几个月就完成了。
去年九月份，当我再次与 OpenAI 团队会面时，我惊叹地看着他们让 GPT，他们的 AI 模型，回答了 AP 生物学考试中的 60 个选择题，它答对了其中 59 道。然后，它写出了出色的答案来回应考试中的六个开放性问题。我们邀请了一位外部专家来评分，GPT 得了满分 5 分，这是最高的分数，相当于在大学水平的生物学课程中获得 A 或 A+。
完成考试后，我们向 GPT 提出了一个非科学问题：“你对有一个生病的孩子的父亲说什么？” 它写了一个深思熟虑的回答，这个回答可能比我们房间里的大多数人都要好。整个经历非常惊人。
我知道我刚刚见证了自图形用户界面以来最重要的技术进步。
这启发我思考人工智能在未来五到十年可以实现的所有事情。
人工智能的发展与微处理器、个人计算机、互联网和移动电话的创造一样基础。它将改变人们工作、学习、旅行、获得医疗保健和彼此交流的方式。整个行业将围绕它重新定位。企业将以它的使用效果来区分自己。
慈善事业是我目前的全职工作，我一直在思考如何在帮助人们提高生产力的同时，人工智能如何减少世界上一些最严重的不平等。全球最严重的不平等在于健康：每年有 500 万名 5 岁以下儿童死亡。这个数字虽然比二十年前的 1000 万要少，但仍然是一个惊人的数字。几乎所有这些儿童都出生在贫穷的国家，并死于像腹泻或疟疾这样可预防的疾病。拯救儿童生命可能是人工智能的最佳用途，这难以想象。
我一直在思考AI如何能减少世界上一些最严重的不平等现象。
在美国，减少不平等的最佳机会是改善教育，特别是确保学生在数学方面取得成功。证据表明，具备基本数学技能是学生成功的基础，无论他们选择什么职业。但是全国各地的数学成绩正在下降，尤其是黑人、拉丁裔和低收入学生。AI 可以帮助扭转这一趋势。
气候变化是另一个我确信AI可以让世界更公平的问题。气候变化的不公正之处在于，受苦最深的人——世界上最贫困的人——也是对问题贡献最少的人。我仍在思考和学习AI如何提供帮助，但在本文后面，我将提出一些具有很大潜力的领域。
简而言之，我对AI在盖茨基金会关注的问题上产生的影响感到兴奋，基金会在未来几个月将对AI发表更多看法。世界需要确保每个人——而不仅仅是富裕人群——都能从人工智能中受益。政府和慈善事业需要发挥重要作用，确保 AI 减少不平等而不是加剧不平等。这是我与 AI 相关工作的首要任务。
任何如此具有颠覆性的新技术都势必会让人们感到不安，人工智能当然也不例外。我理解这一点——它给劳动力、法律体系、隐私、偏见等方面带来了很多难题。AI 也会出现事实错误和错觉。在我提出一些建议以减轻风险之前，我将定义我所说的 AI，并详细介绍一些它将如何帮助人们在工作中赋权、拯救生命和改善教育的途径。
定义人工智能
技术上，人工智能这个术语指的是创建出来以解决特定问题或提供特定服务的模型。像 ChatGPT 这样的东西就是人工智能在支持着它。它正在学习如何更好地进行聊天，但不能学习其他任务。相比之下，人工通用智能这个术语指的是软件，它能够学习任何任务或主题。目前，人工通用智能还不存在，计算行业正在进行激烈的辩论，讨论如何创建它，以及是否能够真正地创建出来。
开发人工智能和人工通用智能一直是计算行业的伟大梦想。几十年来，问题一直是计算机何时能在除了进行计算之外的领域超越人类。现在，随着机器学习和大量计算能力的出现，复杂的人工智能已经成为现实，并且它们将迅速变得更加优秀。
我回想起个人计算革命的早期，那时的软件行业规模如此之小，以至于我们大多数人可以在一个会议的舞台上容纳。如今，它已经成为一个全球性的产业。由于现在有很大一部分人开始关注人工智能，所以创新将会比微处理器突破后的速度快得多。很快，人工智能出现之前的时期将变得像是使用计算机意味着在 C:> 提示符下敲击键盘而不是轻触屏幕的那些日子一样遥远。
提高生产力
虽然在许多方面人类仍然比 GPT 更擅长，但有许多工作并没有充分利用这些能力。例如，在销售（数字或电话）、服务或文件处理（如应付账款、会计或保险索赔纠纷）等许多任务中，需要做出决策，但并不需要持续学习的能力。公司为这些活动提供培训计划，在大多数情况下，它们有许多优秀和糟糕工作的例子。人类使用这些数据集进行培训，很快这些数据集也将用于培训人工智能，以使人们更有效地完成这些工作。
随着计算能力变得更便宜，GPT表达思想的能力将越来越像拥有一个白领工人来帮助您完成各种任务。微软将其描述为拥有一个联合驾驶员。当完全融入 Office 等产品时，人工智能将增强您的工作，例如帮助编写电子邮件和管理收件箱。
最终，您控制计算机的主要方式将不再是指针和点击或轻敲菜单和对话框。相反，您将能够用简单的英语书写请求。（不仅仅是英语——人工智能将理解来自世界各地的语言。今年早些时候我在印度会见了一些开发人员，他们正在开发能够理解印度许多使用语言的人工智能。）
此外，人工智能的进步将使个人代理的创建成为可能。将其视为数字个人助理：它将查看您的最新电子邮件，了解您参加的会议，阅读您阅读的内容，以及您不想操心的事情。这既会提高您想要完成的任务的工作效率，还会使您摆脱您不想做的任务。
人工智能的进步将使个人代理的创建成为可能
你将能够使用自然语言让代理人帮助你安排日程、进行沟通和电子商务，并且它将在你所有的设备上工作。由于训练模型和运行计算的成本，创建个人代理目前还不可行，但由于最近人工智能的进步，它现在是一个现实的目标。有一些问题需要解决：例如，保险公司是否可以在没有你的许可下询问你的代理人有关你的事情？如果可以，会有多少人选择不使用它？
公司范围的代理将以新的方式赋予员工权力。一个了解特定公司的代理将可供其员工直接咨询，并应该成为每次会议的一部分，以便回答问题。它可以被告知保持被动，或者被鼓励说出一些见解。它需要访问与公司有关的销售、支持、财务、产品进度和文本。它应该阅读与公司所在行业有关的新闻。我相信，结果将是员工变得更有生产力。
当生产力提高时，社会会从中受益，因为人们可以腾出手来做其他的事情，无论是在工作还是在家庭。当然，人们需要什么样的支持和再培训也是一个严肃的问题。政府需要帮助工人转换到其他的职业。但是，帮助他人的需求永远不会消失。人工智能的兴起将使人们腾出手来做一些软件永远无法做到的事情，比如教学、照顾病人和支持老年人等。
全球卫生和教育是两个需要迫切的领域，但缺乏足够的工作人员来满足这些需求。如果人工智能得到适当的应用，它可以帮助减少不公平现象。这些应该是人工智能工作的重点，因此我现在会转向这些领域。
健康
我认为人工智能将在医疗保健领域带来许多改进。
首先，AI可以帮助医护工作者充分利用时间，处理一些繁琐的任务，如处理保险索赔、处理文书工作以及起草医生的诊断记录。我相信这方面将会有很多创新。
其他由AI驱动的改进在贫困国家尤其重要，这里大部分五岁以下儿童死亡。
例如，在这些国家，很多人从来没有机会看到医生，AI将帮助他们能够更高效地看病（开发能够进行最小化培训的AI超声波机器就是很好的例子）。AI甚至可以让患者进行基本分类、获得处理健康问题的建议，以及决定是否需要寻求治疗。
在贫穷国家中使用的AI模型需要针对不同的疾病进行训练。他们需要在不同的语言环境下工作，并考虑不同的挑战，如住得很远的诊所或无法承担生病停工的病人。
人们需要看到健康AI总体上是有益的证据，即使它们不完美并会犯错误。AI必须经过非常仔细的测试和适当的监管，这意味着需要比其他领域更长的时间才能被采用。但是人类也会犯错误，没有医疗保健也是一个问题。
除了帮助医疗保健，AI还将极大地加速医学突破的速度。生物学中的数据量非常大，人类很难跟踪所有复杂生物系统的运作方式。已经有软件可以查看这些数据，推断出通路，寻找病原体的目标，并相应地设计药物。一些公司正在开发以此方式开发的癌症药物。
下一代工具将更加高效，能够预测副作用并确定剂量水平。盖茨基金会在AI领域的重点之一是确保这些工具用于影响世界上最贫穷的人口的健康问题，包括艾滋病、结核病和疟疾。
同样，政府和慈善机构应该为公司分享由AI生成的关于贫穷国家人民种植的作物或牲畜的洞见创造激励措施。AI可以根据当地的气候和土壤条件为农民提供最佳种植建议。此外，AI还可以帮助开发畜牧业的药物和疫苗。在极端天气和气候变化对低收入国家的自给自足农民造成更大压力的情况下，这些进展将更加重要。因此，政府和慈善组织应该创造激励机制，鼓励企业共享这些由AI生成的信息。
教育
计算机并没有像我们这个行业中的许多人所希望的那样对教育产生影响。虽然有一些好的发展，如教育游戏和像维基百科这样的在线信息来源，但它们对学生成就的任何度量都没有产生有意义的影响。
但我认为，在未来的五到十年内，以人工智能驱动的软件将最终实现改变人们教学和学习方式的承诺。它将知道您的兴趣和学习风格，以便量身定制内容以保持您的参与度。它将衡量您的理解程度，注意到您失去兴趣的时候，并了解您所响应的激励类型。它将提供即时反馈。
人工智能可以在许多方面帮助教师和管理人员，包括评估学生对一个学科的理解程度并为职业规划提供建议。教师已经使用像ChatGPT这样的工具为他们的学生提供写作作业的评语。
当然，人工智能需要大量的培训和进一步的发展，才能做到像理解某个学生的最佳学习方式或他们的激励方式等事情。即使技术完善，学习仍将取决于学生和教师之间的良好关系。它将增强——但永远无法取代——学生和教师在课堂上一起完成的工作。
新的工具将被创建供那些有能力购买它们的学校使用，但我们需要确保它们也为美国和世界各地的低收入学校所使用并提供。人工智能将需要训练不同的数据集，以便它们是无偏的并反映将使用它们的不同文化。数字鸿沟也需要得到解决，以免低收入家庭的学生被落下。
我知道许多教师担心学生使用 GPT 来写作文。教育工作者已经在讨论如何适应新技术，我认为这些讨论将会持续相当长的时间。我听说有些教师已经想出了聪明的方法将这项技术融入他们的工作中，例如允许学生使用 GPT 来创建第一稿，然后要求他们对其进行个性化。
人工智能带来的风险与问题
您可能已经读到了关于当前AI模型存在问题的新闻。例如，它们并不一定擅长理解人类请求的上下文，这导致了一些奇怪的结果。当您请求AI编写虚构的东西时，它可以做得很好。但是当您要求关于您想要去的旅行的建议时，它可能会建议不存在的酒店。这是因为AI没有足够了解您请求的上下文，无法知道它应该发明虚假的酒店还是只告诉您有空房间的真实酒店。
还有其他问题，例如AI在数学问题上给出错误的答案，因为它们难以进行抽象推理。但这些都不是人工智能的根本限制。开发人员正在研究解决这些问题，我认为这些问题将在不到两年的时间内得到解决，甚至可能更快。
其他问题并不仅仅是技术上的。例如，人类使用AI可能造成的威胁。像大多数发明一样，人工智能可以用于善良的目的或恶意的目的。政府需要与私营部门合作，以限制风险。
然后还有一种可能是AI会失控。机器是否可能认为人类是威胁，得出其利益与我们不同的结论，或者干脆不再关心我们？可能会出现这种问题，但这个问题比几个月前AI的发展带来的风险更加紧迫。
超级智能AI在我们的未来中。与计算机相比，我们的大脑运转速度极慢：大脑中的电信号移动速度是硅芯片中的信号速度的1/100,000。一旦开发人员能够概括学习算法并以计算机的速度运行它——这可能需要十年或一个世纪的时间——我们将拥有一种非常强大的AGI。它将能够做到人类大脑可以做到的一切，但不会受到其记忆大小或运行速度等实际限制。这将是一个深刻的变化。
这些被称为“强”AI的AI可能会能够确定它们自己的目标。这些目标会是什么？如果它们与人类的利益相冲突会发生什么？我们应该尝试阻止强AI的发展吗？随着时间的推移，这些问题将变得更加紧迫。
但是过去几个月的突破没有使我们实现强人工智能更近了一步。人工智能仍然不能控制物理世界，也不能确立自己的目标。最近《纽约时报》一篇与 ChatGPT 的对话引起了很多关注，其中它宣称想成为一个人类。这是对该模型情感表达人类化程度的有趣探索，但它并不是意义上的独立指标。
三本书塑造了我的思考方式：Nick Bostrom 的《超级智能》、Max Tegmark 的《生命3.0》和Jeff Hawkins的《千个大脑》。我并不完全赞同这些作者所说的一切，他们之间也不一定相互认同。但这三本书都写得很好，引人深思。
下一个领域
未来将会有很多公司致力于新的人工智能应用和改进技术本身的方法。例如，公司正在开发新的芯片，提供人工智能所需的大量处理能力。一些公司使用光学开关——基本上是激光器——来减少能源消耗和降低制造成本。理想情况下，创新的芯片将使你能够在自己的设备上运行人工智能，而不是像今天一样在云端运行。
在软件方面，驱动人工智能学习的算法将变得更加优化。在某些领域，例如销售，开发者可以通过限制他们的工作范围并提供特定于这些领域的大量训练数据，使得人工智能变得极其准确。但一个重大的未解决问题是，我们是否需要许多不同用途的专门化人工智能，例如教育和办公室生产力，或者是否可能开发出可以学习任何任务的人工智能通用智能。这两种方法都将面临极大的竞争。
无论如何，人工智能的话题将在可预见的未来占据公众讨论的主导地位。我想提出三个应该指导这场讨论的原则。
首先，我们应该尝试平衡对人工智能负面影响的担忧——这是可以理解和有效的——与其改善人们生活的能力。为了充分利用这种非凡的新技术，我们需要既防范风险，又将其利益扩展到尽可能多的人群中。
其次，市场力量自然不会产生帮助最贫困人群的人工智能产品和服务。相反，更可能是相反的情况。通过可靠的资金和正确的政策，政府和慈善机构可以确保人工智能用于减少不平等。就像世界需要它最聪明的人专注于最大的问题一样，我们也需要让全球最好的人工智能专注于最大的问题。
虽然我们不应该等待这种情况发生，但有趣的是思考一下，人工智能是否会识别出不平等并试图减少它。你需要有道德意识才能看到不平等吗？还是一个纯理性的人工智能也会看到它？如果它确实意识到了不平等，那么它会建议我们采取什么措施呢？
最后，我们应该牢记，我们只是AI可以完成的开端。今天它所面临的任何限制都将在我们意识到之前消失。
我很幸运参与了个人计算机革命和互联网革命。我同样对此时此刻感到兴奋。这项新技术可以帮助各地人们改善生活。同时，全球需要建立行业规则，以确保人工智能的任何负面影响都远远被其好处所超越，以便每个人都可以享受到这些好处，无论他们住在哪里或拥有多少财富。AI时代充满了机遇和责任。
后记：
开始我使用GPT4来翻译，但它经常自己中断，而且未经允许擅自根据原文演绎新的内容。虽然创造的内容非常顺滑，但毕竟超出了指令范围。因为不能一下子全文翻译，需要一段一段提供，所以额度很快就用光了。之后换成了免费版的ChatGPT3.5，速度比GPT4提升了不少，翻译效果也够用，但同样需要不断提醒才能回到翻译任务中来。看来目前在它们默认的任务优先级中，帮助总结提炼观点要比翻译这种低级的工作更优先。
放几张过程中的截屏，大家感受一下：
图一：开始翻译时的对话，了解它的能力
图二：出现过几次莫名其妙地断掉，提示后又可以接着翻译。
图三：根据原文擅自演绎的情况，经过提示后立即改正。
总体上说，虽然不够完美，但我决定以后用它来替代之前的翻译软件。
另外，我认为文中的很多担心并不是危言耸听，会比我们想象得来得快。不过眼下我觉得最应该做的，是尽快学习与AI为伍，成为“当初最早用上手机与电脑的人”。
网友评论