上周摘要: 吴教授开始他的三板斧的第一阶段了，一个深度学习课程；OpenAI 人工智能1v1击败职业选手，对手直接放弃比赛；美军方意识到自己AI军备力量不足，准备奋起追赶；谷歌大Vizier机器学习算法优化器，然而谷歌只用它来做饼干；ActivityNet中国队继续横扫各大比赛，政府的大力支持似乎很有效；Salesforce创造语言模型新纪录，却没有一点惊喜，不过是个大杂烩；视觉问答系统专家加入Facebook，准备开启新的技能书树
百度/谷歌/斯坦福小天使吴教授重磅回归... 一个网上深度学习课程
... 吴教授宣布了他三个秘密项目中的第一个: 一个深度学习的网络课程，目前在在线教育平台Coursera上可以观看.
... 这个课程将用Python还有TensorFlow来授课。(吴教授的前老板百度大概要不开森地抽抽嘴角了，因为这个公司正在宣传他自己的Paddle框架)
... 关于此课程更多内容
... 彩蛋: 本周废话奖将颁发给吴教授下面这句“当你获得深度学习的专项证书后，你将可以自信的将深度学习写入你的简历了。”
OpenAI 人工智能在Dota2 1V1比赛中打败职业选手
... 该人工智能没有使用模拟学习或是自搜索，而是通过自我学习从头学习 Dota2。这对电子竞技还有人工智能界都具有着非同寻常的意义。因为OpenAI还并没有发布出这个系统是如何训练的各种技术细节，所以有一些研究人员已经提出OpenAI利用这个成果进行大肆炒作的质疑，包括这篇还有这篇文章都有提到。
... 此次对战的对象是，Dendi, 一位在职业生涯中已赢得七十多万美金的职业选手。第一场比赛，约10分钟AI就打败了Dendi；第二场比赛中Dendi直接放弃，并且拒绝进行第三场比赛。这和之前的AlphaGo何其相似。
美国军方试图将AI融入其基于计算机视觉的项目Maven计划
... 美国军方想要利用计算机视觉领域的机器学习和深度学习技术，来自动抽取、标注、和分类由智能信号系统收集的数据，以帮助他们执行各种任务。
... “我们正在一场AI军备赛跑中。”一个官员说道。该项目最初将运行36个月，在此期间，政府将尝试发展它自己的AI技术，并与工业界合作获得必要的专业知识。他们说，“你不能像买弹药一样，来买AI”。
... 彩蛋: 本周政府捉鸡命名： 算法战争跨职能队伍 (the Algorithmic Warfare Cross-Function Team)
... 在美国国防部新闻阅读更多：Project Maven toDeploy Computer Algorithms to War Zone by Year's End
... 同时，美国国防部长詹姆斯·马蒂斯上周参观了硅谷，他告诉记者，他担心政府在AI发展方面的落后。他说：“国防部将能从中学到很多，因为在这些西海岸的私企中我看到大量的最伟大的进步。”
... 阅读更多：Defense SecretaryJames Mattis Envies Silicon Valley's AI Ascent
美国医疗协会支持为病人进行诊断的AI项目
... 美国几个最大的医疗协会开始联合起来，支持人类诊断项目 (Human Diagnosis Project)。这是一个初衷是希望能够联合人类和人工智能，使得病人能够有机会获得更多特殊治疗的项目。
... 更多: Medical associations back AI project for patient diagnosis
问：谁优化了优化器？
答：谷歌的大Vizier系统！
Deep Dream cookies
... 最近Google简单介绍了Vizier系统，这是由该公司开发的用于自动优化机器学习算法的系统。现代AI系统虽然成果不凡，但往往需要调整大量的超参数以获得良好的性能。 （有些AI研究人员将此过程戏称为 “Grad Student Descent (恶搞Gradient Descent)”）
... 因此很值得好好读读这篇关于Vizier的长文，Vizier是一个大型优化器，可以帮助人们自动化优化过程。 “我们的实现规模可以扩大到整个Alphabet公司的超参数调节，这个规模是非常大的。举一个极端的例子，Collins等人用Vizier进行了一项超参数调优研究来调查不同递归神经网络(RNN)的性能，这一项研究中就集成了数百万个研究试验。“研究人员写到。
...该系统可同时用于调整各个系统，并通过迁移学习来优化其他系统 - 例如通过调整一个ML系统的学习率和正则化，然后在不同的数据集上，用同样的参数，来运行一个较小的优化任务。
...值得注意的是：对于超过10,000+范围的实验，Vizier支持标准的随机搜索和网格搜索技术，以及一个非常吸引人的通过图形来判断的“专属局部搜索算法 (proprietary local search algorithm) ”。
...阅读更多关于Google Vizier中的系统： Google Vizier: AService for Black-Box Optimization (PDF).
... 逗比实验：跳到文章末，会发现一个现实中运用Vizier的实验，在这个实验中，它通过Google的大量烹饪人员反复优化了公司巧克力饼干的配方。他们写道：“随着时间的推移，饼干的表现有了明显的改善，特别是到了后来评分更是非常好，作者们的意见也是，很好吃，”他们写道。
中国队横扫AcvtivityNet动作识别挑战，打败了来自来自DeepMind的原数据集队，还有其他队伍
.. ActivityNet是一个识别野外短视频中的高级概念和活动的挑战。它包含三个数据集：ActivityNet（VCC Kaust），ActivityNetCaptions (Stanford）和Kinetics（DeepMind）。这样的挑战提出了一些很有趣的研究问题（如何推断相当抽象的概念，如“狗从未标记视频走到标记的视频”），并且对各种安全设备特别适用 - 这项研究没有一个是在真空环境进行的。
...今年的挑战是由来自清华大学和百度的一个团队获胜，其系统的前5位准确率（推荐五个答案，其中一个是正确的）为94.8％，前1位的准确率为81.4％。第二名是香港中文大学，苏黎世苏黎世大学和深圳先进技术研究所的一个小组，其中前5位为93.5％，前1位为78.6％。德国AI研究公司TwentyBN获得第三名，DeepMind的团队获得第四名。
...阅读这篇来自TwentyBN文章，了解更多：Recognizing HumanActions in Videos.
... 在最先端表现方面，进步还是相当缓慢（因为极具挑战性）：去年香港中文大学/ ETHZ / SIAT获得成绩为前1位准确率为93.23％。
...包括这个，今年中国的队伍与图像和视频分类相关的比赛中排名都很高 ;其他中国队今年也纷纷横扫了ImageNet和WebVision比赛。看到国家对AI的重点投资的结果是非常好的，获奖者也应该因为他们坦然公布结果而受到赞赏，。
Salesforce创造语言模型新纪录：欢迎来到模块化时代，小题大做的AI机器
... Salesforce的研究团队，通过使用他们所谓的 weight-dropped LSTM系统， 在Penn TreeBank（52.8）和 WikiText（52）的上获得了创记录的复杂度评分。这个系统是一个相当复杂的系统，它包含各种最近的新成果，从DropConnect到Adam
to randomized-length backpropagation through time，到正则化，到temporal activation regularization。这些技术拌在一起就有了这个创纪录系统了。
... 这项研究突出了现代人工智能发展趋势，不是去设计大型的端到端通用系统（尽管我确信每个人都喜欢它，如果可以的话），而是着重于组合最近由数百名研究人员的共同努力开发的各种组件，来竭力创造新记录。
... 这个系统唯一的好处是什么呢？它可以被插入现有系统，而不需要对CuDNN等基础库的任何修改。
... 阅读更多：Regularizing andOptimizing LSTM Language Models
视觉问答 (Visual Question Answering)系统专家加入Facebook
... 乔治亚理工大学的教授Dhruv Batra和Devi Parikh最近加入了Facebook AI Research来赚外快了，为这个社交网络AI研究所带来更多的机器视觉专业知识。
... 这两位学者以视觉问答的研究而闻名。视觉问答是，将大型语言模型与图像内容相关联，给出一张图，让你可以对图的细节进行发问，然后系统给出回答的研究。 这对于盲人，还有需要屏幕阅读器才能够上网的人非常重要。 Facebook现在增加了其网站的可访问性，所以非常值得期待的是，这两个研究人员在社交网络环境下会有什么样的新想法。
网友评论