赵汀阳：《技术的无限进步也许是一场不可信任的赌博》
正是宗教的知识追求培养了宗教的掘墓人。笛卡尔、贝克莱、霍布斯、康德等所建立的主体性将人定义为自主独立的存在，人成为万物的立法者，于是一个现代人的概念由此建构起来。后来，主体性概念不断膨胀，人拥有的天赋权利越来越多，以至已经远远突破了自然人的概念，成为一种“自定人”，即自己决定自己成为什么样的人。……在这个意义上说，基因编辑的人或人工智能都是“自定人”概念的逻辑结果。
超越人类能力的机器人正是人工智能的价值所在，并不是威胁所在，任何智能的危险性都不在其能力，而在于自我意识。
人类之所以不怕那些无法解决的“怪问题”，是因为人具有“不思”的自我保护功能，即可以悬隔无法解决的问题，在思想和知识领域建立一个暂时“不思”的隔离分区，以便收藏所有无法解决的问题，而不会因一条道走到黑，而陷入无法自拔的思想困境。
人工智能时代可能会产生另一个更严重的问题：人类将基本告别体力劳动，从而失去身体性的劳动经验。失去工作，人类会发明新工作，但是失去身体经验，却无可替代。人类毕竟是身体性的存在，生活意义在很大程度上系于感性系统，主要包括劳动经验、待人接物经验以及娱乐经验。当人工智能取代了劳动经验和待人接物的经验时，人类就只剩下娱乐经验，生活经验将变得十分贫乏和雷同。也许在人工智能时代人们普遍能够达到衣食无忧，所有人都脱离贫困，但是，在欲望满足之后失去意义，或者说，在幸福中失去幸福，这非常可能是一个后劳动时代的悖论。
当人工智能成为万能技术系统而为人类提供全方位的服务，一切需求皆由技术来满足，那么一切事情的意义就由技术系统来定义，每个人只需要技术系统而不再需要他人，人对于人将成为冗余物，人再也无须与他人打交道。结果是人不再是人的生活意义分享者，人对于人失去重要性，于是人对他人也就失去兴趣，这是人的深度异化，人不仅会对生命意义产生迷茫，而且变成了非人化的存在。
个体理性的集体加总不可能推出集体理性，事实上更可能产生的是集体非理性。
在未来社会里，技术就是权力，那么机会占先的“超人”阶层将非常可能控制一切权力和技术，甚至建立专有的智力特权，以高技术锁死其他人获得智力升级的可能性，永远封死较低阶层的人们改变地位的机会。那些长生的“超人”永不退位，年轻人或后来人永无机会，结果可能出现一个高科技的新奴隶制。
网友评论