人工智能通俗来讲，即被人工训练而成的智能。这一概念从字面上解释对人工智能的形成做了解释：在对AI进行训练的过程中，研究者通常沿用这样一种思路，制定一个目标，让AI不断试错，最终得出最接近正确答案的结果。
就拿遗传算法来说，其思路就是将自然选择的想法套用在程序上，设定一个目标、一套规则，作为一种“环境”，然后让程序不断变化并接受环境的选择，一步步接近既定目标。
令人啼笑皆非的是，程序常常会做出超展开的解法。十分精妙地在满足既定规则的情况下，钻个漏洞。
经济学上有一个原则：如果一个指标被当做评价标准，这个指标就失效了。同理，由于人类的运算能力有限及思维定势限制，既定规则往往存在一些令人视而不见的漏洞，对于进行大量试错的人工智能来说，这些漏洞就很容易被抓住并利用。
于是闹出了一些笑话：
NO.1 任务：飞机降落
算法利用了物理模拟器的溢出漏洞，搞出了一个特别巨大的力，让溢出被判定为0，从而获得了完美得分。
——Feldt，1998
NO.2 任务：挪木块
一个机械手被要求把木块挪到桌子的指定地点，它的解法是：挪桌子。
——Chopra，2018
NO.3 任务：赛艇
程序发现不停原地转圈反复命中同一个目标要比抵达终点的得分更高。
——Amodei & Clark（OpenAI），2016
NO.4 任务：把航空照片转成街道地图，再转回来
在街道地图里偷偷隐藏了照片的信息，但是人眼看不出来。
——Chu et al，2017
NO.5 任务：识别有毒和无毒的蘑菇
程序发现有毒无毒蘑菇的图片是交替展现的，所以直接按照这个来分类，没有从图片里学到一丁点东西。
——Ellefsen et al，2015
网友评论