10AIFailuresin2018.png
近年来，随着深度学习技术的快速发展，人工智能快速崛起，在2016年谷歌AlphaGo 通过大胜李世石一战成名，似乎一夜之间，人工智能就变得无所不能，而人类的地位则突然间变得岌岌可危了。当然，人工智能技术的确在许多方面进展迅速，用吴恩达的话来形容，人工智能就像电力一样，是下一次技术革命的推动力。但是，目前的人工智能技术，只是在某些方面可以达到或超过人类的水平，但纵然如此，目前的人工智能技术底层“弱人工智能”的本质仍然没有变。而这样的“弱人工智能”也会时不时显出“弱智”感觉来。以下就人工智能2018年十大翻车现场做一个梳理，人工智能的局限可见一斑。
1. 董明珠被错认成闯红灯行人
在很多城市，交警正在使用AI来解决行人不守交规横穿马路的问题。 他们在十字路口使用面部识别技术部署智能相机，以检测和识别横穿马路的行人(jaywalkers)，然后将人工识别的名字（隐藏一个字以保护隐私）和面孔随后显示在公共显示屏上。
然而，宁波的人工智能系统在2018年便不小心翻车了一次，其将闯红灯的行人识别成董明珠并且展示在大屏幕上，董小姐就这么在宁波意外躺枪上了一次头条，宁波警方当然道歉了事，而董明珠也在微博上发表评论说：“这是一件小事。 安全旅行更重要。”
然而AI系统翻车确是不争的事实
2. 优步无人驾驶汽车撞死行人
与董明珠无伤大雅的躺枪相比，第二个案件就十分触目惊心。这是已知的第一个无人驾驶汽车在公路上致人死亡的事件，优步自动驾驶SUV于3月28日在亚利桑那州的坦佩撞死了一名女性行人。 当时车辆处于自动驾驶状态，并且配备有安全人员（可以通过紧急系统制动车辆）。
调查结果显示，优步自动驾驶软件在汽车传感器检测到行人后未采取任何行动。 而根据美国国家运输安全委员会关于事故的初步报告，优步的自动模式禁用了沃尔沃工厂安装的自动紧急制动系统。
在悲剧发生之后，优步在北美城市暂停了自驾驾驶测试，而Nvidia和丰田也在美国停止了自驾车道路测试。 事故发生8个月后，优步宣布计划在匹兹堡恢复自驾车路试，尽管该公司的自驾车未来仍然不明朗。
3. IBM华生医生在医疗保健中短板明显
佛罗里达州朱庇特医院的一名医生对IBM的旗舰人工智能程序Watson（华生医生）评价道，“这个产品很糟糕（a piece of shit）”。 华生医生最初是一个问答机器，但IBM一直在广泛的应用程序和流程（包括医疗保健）中探索Watson的AI功能。 2013年，IBM开发了Watson首个针对癌症治疗推荐的商业应用程序，该公司在过去五年中与医院和研究中心建立了许多重要的合作伙伴关系。 但Watson AI Health并没有给医生留下深刻印象。 一些人抱怨它对癌症治疗提出了错误的建议，可能会导致严重甚至致命的后果。
据报道，在没有显着进步的项目上花费数年后，IBM正在缩小Watson Health的规模并裁掉该部门员工的一半以上。
4. 亚马逊人工智能招聘工具暴露性别歧视问题
据报道，亚马逊人力资源部门在2014年至2017年期间使用了支持AI的招聘软件来帮助审核简历并提出建议。 然而，该软件对男性申请人更有利，因为其模型是在过去十年中提交给亚马逊的简历上接受培训的，当时雇用了更多的男性候选人。
据报道，该软件降级了包含“女性”一词的简历，或暗示申请人是女性，例如因为他们曾就读过女子大学。 亚马逊此后放弃了该软件。 该公司并未否认使用该工具提出建议，但表示从未用于评估候选人。
5. “深度造假”(DeepFakes)项目揭示人工智能另外一面
3星球大战.png
去年12月，Reddit出现了几个色情视频，其中包括“国际顶级女性名人”。 用户“DeepFakes”通过将明星面孔与成人影星的脸交换来生成明星色情视频。 虽然面部交换技术已经开发多年，但DeepFakes的方法显示，任何拥有足够面部图像的人现在都可以制作他们自己非常有说服力的假视频。
2018年，看上去非常逼真的名人假视频充斥着互联网。虽然这种方法在技术上并非“失败”，但其潜在的危险是严重而深远的：如果视频证据不再可信，这可能会进一步鼓励 流传假新闻。
6.谷歌相册系统混淆滑雪者和山
4滑雪者.png
这回翻车的是AI行业领头羊谷歌，在Google相册里包含一个相对未知的AI功能，可以自动检测具有相同背景/场景的图像，并提供将它们合并为单个全景图片的功能。 1月份，Reddit用户“MalletsDarker”在滑雪场拍摄了三张照片：两张是风景照，另一张是他朋友的照片。 当谷歌照片合并这三个时，发生了一件奇怪的事情，因为他的朋友的脑袋被渲染成一个从森林中窥视出来的尖峰巨人。
这张照片使得r / funny在subreddit排名进入前十，并获得了202k的点赞。 社交媒体讽刺称谷歌算法这才叫巧妙地混合了图像。
7. LG机器人Cloi在发布会上翻车
1月8日，LG的IoT AI助手Cloi在拉斯维加斯举行的2018年国际消费电子展上首次亮相。 Cloi设计有一个简单可爱的形象，能够识别控制家用电器的语音命令。 然而，当可爱的机器人走上舞台进行现场演示时，它完全没能回应LG市场营销主管的命令， 观众一直尴尬的等待，等待……直到冷场
8. 波士顿动力机器人阿特拉斯现场翻车表演
软银旗下的机器人制造商波士顿动力公司2018年不止一次在互联网赢得了种种声誉：它的机器人SpotMini可以灵巧地用头戴式抓手臂打开门; 它的人形机器人阿特拉斯现在可以做跑酷 – 顺利跳过原木，跳跃一系列40厘米的步骤而不会打破步伐。
但即使是波士顿动力也有翻车的时候：在未来科学家和技术专家大会上首次亮相时，阿特拉斯展示了一个完美的提箱子动作。 但就在阿特拉斯表演完准备离开时，这个可怜的机器人一脚绊倒在窗帘上，笨拙地从舞台上摔下来。 完美的展示了翻车现场表演
不过，从好的方面来说，波士顿动力的机器人即使摔跤也摔的很像人。
9.大型翻车， 2018年AI在世界杯中的预测几乎全错
2018年世界杯是可能是这一年最重要的体育赛事，高盛，德国多特蒙德技术大学，EA，彼尔姆国立研究大学和其他机构的人工智能研究人员运行机器学习模型来预测各阶段比赛的结果。 然而大多数都是完全错误的，只有EA旗下的足球游戏FIFA 18模拟的结果正确预测了胜利者法国。 EA游戏引擎以众多机器学习技术为后盾，旨在使玩家的表现尽可能逼真。
SQL服务数据科学家Nick Burns提供了一个解释：“无论你的模型有多好，它们都和你的数据一样好……最近的足球数据还不足以预测世界杯的表现。 缺少信息和未定义的影响太多了。“
10. 初创公司Faception声称可以从面部预测智商
7人脸.png
以色列机器学习初创公司Faception提出了有争议的说法，即其人工智能技术可以分析面部图像和骨骼结构，以揭示人们的智商，个性，甚至是暴力倾向。 数据科学家Ben Snyder在推特上斥责该公司的技术：“那是看相。 你只是把ML当成了一个种族主义叔叔。“这条推文收到了超过6,500转推送和近17,000个喜欢。不过，在我们中华民族博大精深的文化下，人工智能看手相、面相、麻衣神相估计比以色列市场要打多了。
结论
虽然人工智能还在不时展示一下翻车现场，但其成长速度是不可小视的，这些现场从另外一方面正好也展示出了人工智能技术的进步速度。
网友评论