《与机器人共舞》
原书名是：Machines of Loving Grace：The Quest for Common Ground Between Humans and Robots （直译为：慈爱机器：探寻人类和机器人之间的共同基础），Machines of Loving Grace 出自诗人理查德·布劳提根的诗：All Watched ove by Machines of Loving Grace
All Watched ove by Machines of Loving Grace
这里的“机器”是特指两类：AI（Artificial Intelligence：人工智能）机器和IA（Intelligence Augmentation：智能增强）机器。对应的两大技术阵营，前者希望让机器实现人类的能力，变得智能，甚至像人类那样拥有意识，而后者则希望机器是用来加强或扩展人类的能力。
在我看来，虽然二者的出发点完全不同，但在技术层面并非泾渭分明的，尤其是在“既可以让人类变得更强大，也有可能取代人类”是并无二致的。
“我们已经进入一个崭新的智能机器时代，在未来几年内，人工智能和机器人给世界带来的影响将远远超过个人计算机和互联网在过去的30年间已经对世界造成的改变。”
作为亲身经历从8086\386\486\586过来的一代人，已经见证了对过去的30年世界的改变，而接下来，或许才是真正的“见证奇迹的时刻”，至少我们目前已经见识了阿尔法狗（而一切才刚刚开始）。
** “是谦逊地生存，还是傲慢地死去？”**
To Be or Not to Be? 书中反复在问一个问题：“智能机器将成为我们的奴隶，伙伴还是主人？” 这个问题，或许也可以换成：人类将成为机器的奴隶，伙伴还是主人？
在阅读这本书前，我也曾思考过这个问题。我认为：在真正拥有自我意识之前，机器还有没有建立“我”的思想，没有“我”，那么就没有基于“我”的关系（奴隶、伙伴、主人等等）。人类在与机器的互动中，产生出“和人一样”的错觉，但这就如同把惟妙惟肖的蜡像错当成真人那样，离真正意义上的拥有自我意识的智能机器人还有很大的差别。
人工智能最终能不能真正让机器产生自我意识，而不是依靠人类给它输入数据和算法来产生反应呢？或者在完成最初的设定后，可不可以不再依赖人类而自我学习和完善，拥有自行升级的能力呢？
至少在这一天到来之前，机器和人类的关系就还未上升到哲学或伦理的层面，智能机器人仍然是被当作人类的工具（这时候，名义上的AI实质上还是IA）。但是，拥有它和没有它，就会产生了人和人的差别。比如：在金融业中的拥有强大的基于算法的自动交易系统的人，以此为手段，比普通人拥有了更多的财富，甚至会使得一部分人破产。这些已经是现实，而不是预言或者科幻。以此类推，很多人的命运必定会由于未来人工智能、基因工程和机器人学的发展而发生可预见或意料之外的改变。再举个极端的例子：美国新一代的武器LRASM远程反舰导弹上的人工智能技术还将使它自动设定攻击线路，并与其他导弹协同攻击线路。根据设计，LRASM在与人类控制人员失去联系后仍可飞到敌军舰队中，使用人工智能技术来决定袭击哪些目标。这使得LRASM成为真正的"无人机"，而且是一台杀人机器。
LRASM
因此，我的答案是：一部分人将成为机器的奴隶，一部分人将成为机器的伙伴，一部分人将成为机器的主人，也许一部分人还将成为人和机器的混合体（拥有人类心识和机器身体的人）！
《与机器人共舞》的作者约翰·马尔科夫认为：“机器是会取代人类工人还是增强他们的能力？在某种层面上，这两种结果都会实现。”“在大多数情况下，人们会以收益和效率为根据决定实现哪些技术，但也明显需要新的道德演绎。” 但显然，当利益和道德发生对立的时候，情况就会变得微妙，现实中，在巨大的利益当前的时候，人们往往会对道德层面避重就轻，甚至走向反面。
马尔科夫用了大量章节来回顾智能机器的发展历程，无人驾驶汽车、机器学习，算法、救援机器人、苹果的Siri等等，基于这些事件，他认为找到了答案：“在人类的工程师和科学家的心目中已经做出了选择：以人为本。”
我认为这个答案是自欺欺人，因为“以人为本”当中的人，不可避免的包含了人性的阴暗面。姑且不论在技术奇点（指在某一时间点，机器的智能将会超越人类）之后，机器会做出什么样的选择，在此之前，人性中的贪婪和欲望，已经足以令“以人为本”这几个字黑化。例如：毒品，从采摘到人工种植，从化学合成到电子毒品（令无数人沉迷其中的电子游戏）。
智能机器不会像核武器和核电厂那样，可以控制在一定范围中。在今天，智能机器已经无处不在，从手表到眼镜这些穿戴设备到植入体内的人工器官。在未来，无论是生活，还是工作的空间里都将充斥着形形色色，大小各异的智能机器。从人们现在对待手机的态度就可不难想象，当智能机器逐渐渗透到人们生活的方方面面以后，功能越来越成熟，性能越来越强大，人们的生活也逐渐会变得无法离开它们，甚至人类自身会开始退化。例如，正有越来越多的证据表明，依赖GPS寻找方向和修正导航错误影响了我们的记忆和空间推理能力（这些都是十分有用的生存技能）。
“当有人问我：计算机会接管世界吗?”艾伦·凯提到，“其实对大多数人来说，计算机已经接管了他们的世界。因为他们正以各种各有的形式将权利割让给了计算机。”
美国著名的数学家、控制论的创始人维纳预言：
如果我们朝着制造机器的方向前进，这些机器可以学习，它们的行为可以通过经验来进行修正，那么我们必将面对这样一个事实：我们给予机器的任何程度的独立性都可以导致对我们自身意愿的反抗。瓶子里跑出的精灵不会心甘情愿地重新回到瓶子里，同样，我们也没有任何理由希望它们善待我们。
事实上，人们饱受内心不自在的折磨，贪嗔痴慢，心猿意马，欲罢不能。人类的意志非常薄弱，连自身都难以把控。人类如果在心智领域不但不寻求进化，一味被感官享受迷醉，不愿意独立思考，满足于智能机器告知的答案，那么，不管智能机器发展到何种程度，这种惰性本身就是一场灾难。All Watched ove by Machines of Loving Grace 诗中的美好图景，恐怕不过是诗人一厢情愿的梦呓而已。
引用内容出自《与机器人共舞》一书
- 系列文集：《语文英语读写能力》
- 系列文集：《语文同步说文解字》
- 系列文集：《数理思维STEM》
- 系列文集：《机器学习和人工智能》
网友评论