问题的关键，在于给人工智能赋予一个正确的目标。
我们目前能赋予人工智能的目标，都是阶段性的小目标，但目标越小越细，就越容易导致人类不想要的结果。
比如，如果给人工智能定一个“生产尽可能多的回形针”的目标，那么人工智能会瞄准宇宙和人体中所有的金属元素制造回形针，最后毁灭宇宙。
要让人工智能始终为人类所用，就需要为它设计出一个“终极的大目标”，保证它无论做什么，始终要对人类友好。
但要设计这样一个终极目标难倒了当今的人工智能专家。
因为要非常清楚地定义什么是“对人类友好”简直太难了，由于文化的多样性，这个问题连人类自己都没有共识。
而且，即便给人工智能定的目标足够大、足够终极，比如设定一个目标叫“保护人类”，它也有可能背叛这个目标。
因为当人工智能发展到一定程度，它就可能会觉得人类给它定的目标十分迂腐。
这就好比一群蚂蚁要求人类为它建造更大的蚁穴一样。
人工智能也有可能觉得保护人类这种目标就像修建蚁穴一样愚不可及，从而将它推翻。
对于设立目标这个问题，人们必须从现在就思考解决方案，而且留给我们的时间越来越少。
因为人工智能每天都在变得更聪明，一旦它聪明到让人类无法得手，那么人类就再也无法植入对我们有利的目标了。
网友评论