AutoML——为神经网络选择正确的架构

作者：骆天翔  年级：研0级

【嵌牛导读】：谷歌首席执行官Sundar Pichai在面向app程序员和硬件制造商举办的年度I/O开发者大会上发布了一个名为AutoML的项目，它可以自动化设计深度学习软件最难的部分之一：为神经网络选择正确的架构。

【嵌牛鼻子】：AutoML、神经网络、、深度学习、谷歌、AI

【嵌牛提问】：AutoML是神马东西？有什么作用？

【嵌牛正文】：

      谷歌在I/O大会上新发布的AutoML旨在自动化设计深度学习软件最难的部分之一——为神经网络选择正确的架构。这些人工神经网络被设计成模仿大脑的学习方式。按照谷歌首席执行官Sundar Pichai解释说法，AutoML的工作方式就是我们采用一组候选神经网络，将它们看作是baby神经网络，然后用一个神经网络来遍历它们，直到我们找到最好的神经网络。

       谷歌的研究人员创建了一个使用强化学习的机器学习系统——试错法本身就是谷歌许多最著名的AI应用的核心理念——用以找出完成语言与图像识别任务的最佳架构，在这个强化学习过程中，计算机可以将尝试和错误与某种奖励联系起来，就像教狗新把戏一样。但整个过程需要超强的计算能力，而谷歌的硬件已经进入可以支撑一个神经网络分析另外一个神经网络的阶段。以前科学家和工程师的专家团队通常需要花费大量的时间来组合神经网络，现在有了AutoML，几乎任何人都能够构建AI系统来处理任何他们想做的任务。

一个神经网络选择其他神经网络

       Pichai在一篇博文中写道：“我们希望AutoML的能力抵得上现在几个博士之和，并且可以在三到五年时间内为成千上万的开发人员设计出新的神经网络以满足他们的特殊要求。”

       机器学习就是使用计算机根据样本数据做出自己的决策，是开发人工智能的一种方法，它涉及到两个主要步骤：训练和推理。训练过程要求一台计算机看成千上万的猫狗照片，以了解每种动物呈现出怎样的像素组合。随后的推理过程是系统根据其学到的东西作出猜测，用神经网络替换猫和狗，AutoML要做的不是识别动物，而是识别出哪些系统是最聪明的。根据Google的研究，AutoML在找到解决问题的最佳方法方面比人类专家更聪明，这可能会为未来AI系统的构建节省大量工作，因为它们可以进行部分程度的自我构建。就如Google科学家QuocLe和Barret Zoph所说：“我们认为这可以激发新型神经网络，并且使非专家可以根据自己的特定需求创建神经网络，从而使得机器学习增加对人们的影响力。”

       AutoML的选择结果不仅可以与最佳的人性化设计架构相抗衡，而且系统做出了一些非常规的选择，研究人员以前会认为类似的选择不适合这些任务，相关研究人员对MIT Tech Review表示，这种方法还有很长的路要走，因为它捆绑了800个强大的图形处理器。不过谷歌认为，自动化构建机器学习系统的过程可以帮助克服人机学习和数据科学人才的短缺，正是这两点拖慢了新技术的应用进程。

       AutoML并不是唯一的一个，据Wired报道，Facebook的工程师们也已经开发了称为“自动化机器学习工程师”的工具。它的名字也叫AutoML,能够就最有可能解决问题的算法和参数做出选择。

       去年夏天，一个称为AutoML challenge的挑战任务（资助者包括微软、英伟达等）让很多团队开始构建一种机器学习“黑匣子”，能自行选择模型和调整参数，而无需人为干预。挑战任务甚至吸引了游戏设计师的参与，游戏Space Engineers的开发团队利用部分游戏收入组件了一个专家团队来设计可以优化自己软硬件的AI。

       AI在让自己变得更聪明的过程中变得更聪明。虽然此类自动化可以使非专家更容易设计和部署AI系统，但它似乎也为机器控制自己的命运奠定了基础。“递归的自我完善”概念是大多数从中等智能快速跃升至AI超级智能理论的核心。其核心理念在与，随着AI越来越强大，它可以开始自我调整，以提高其能力。AI在让自己变得更聪明的过程中变得更聪明，这很快就会导致了智能化的指数增长。一般来说，所谓的“种子AI”被设想为通用人工智能 （AGI）,它是一种能够执行任何智力任务的机器，就像人类一样，而不是像今天的大部分算法一般，只是某一个领域的专家。今天的系统离AGI还有很长的路要走，它们的目的是开发和改进其他机器学习系统，而非自身。在机器学习之外，代码的自我调整已经存在了一段时间，但是部署这种技术来编辑神经网络可能要复杂得多。但是创造能够处理机器学习代码的算法显然是迈向未来学家设想的自我改进AI的第一步。

       最近一些其他技术进展可能也会推动这一方向的发展，许多AI研究人员正在努力将好奇心和创造力编码到机器学习系统中，如加州大学伯克利分校研发的为AI植入好奇心，这两个特征可能对一台重新自我设计以提升性能的机器来说是必须的。还有一些研究人员正在尝试让机器人分享他们所学到的东西，有效地将它们变成一种“蜂巢思想”。毫无疑问，这些能力想要达到可以有效地实现能够自我改进的AI，还有很长的路要走，但我们确实已经可以看到一些相关技术基础正在铺设之中。