《AI 3.0》读书笔记1
《AI 3.0》读书笔记2 序1
《AI 3.0》读书笔记2 序2

序

意义问题：人工智能所面临的“硬核”挑战

理解的基础是意义，意义是人工智能的真正障碍。
并不是说人工智能无法理解意义，也不是说人工智能无法创造出新的意义（当然这取决于你怎么定义“意义”），而是说，人工智能对意义的理解是否在安全边界之内——这其实也是全书开篇提到的“侯世达的恐惧”的核心内容。

侯世达的恐惧: “不是担心人工智能太聪明，而是担心人工智能太容易取代我们人类所珍视的东西。”

意义在生活中的例子：

即便不懂异国他乡的语言，你仍然可以用连比画带手势的方式与当地人交流，至少浅层次的生活交流大致是没问题的。原因也很明显：大量超越语言的生活常识，其实是超越文化差异的全人类共有知识，这是意义的“底座”。

机器并不具备这些共有知识

机器像一个探索新奇世界的婴儿，世界对它而言是全新的，它需要学会语言，但更重要的是它要学会理解沉淀在语言背后的意义。

婴儿理解世界的过程，
是不断将自己的新奇感受装入成人的词语世界的过程，这个过程也是绝大多数真实的认知历程。
当然也有“漏网之鱼”，比如日益流行的网络用语，就突破了附着在传统词语上的固有含义。

意义的产生，
有漫长、深厚、难以细数的生活积淀，
有约定俗成的“能指-所指”的任意配对
有突破词语边界的“类比”和“象征”，
侯世达的观点，这种类比和象征是“思考之源和思维之火”。

人工智能是否以及何时能打破意义的障碍？
这个世界是隐喻式的，我们并非确凿无疑地生活在符号世界中，我们生活在色彩斑斓的隐喻中。
固然不同的文化所对应的底层逻辑之间难以互通或相互转化，甚至不同的文化隐喻所导致的生活信念彼此抵牾，但人类仍然有共享的元认知（metacognition），这一元认知是维系多样化世界的最后屏障。

人工智能所面临的“硬核”问题，
并不在于机器和人谁控制谁，
而在于机器成长的过程意味着什么，
机器将如何成长，什么时候会变得强大，强大之后机器会是什么样子。
预测未来最好的办法就是把它造出来。

机器将“长大”，并将开启自己的独立生活，创造自己的语言，甚至可能会形成与人类相抗衡的文化符号，提出自己的价值主张，创造自己的社群、艺术，甚至宗教，并与人类分享这个世界的快乐。

智能机器的存在和成长，是否会拓展人类的元认知，将这一元认知拓展为人机共享的元认知？

仅靠文字的思维方式，可能难以走出符号演算的“如来佛之掌”。
形式逻辑、符号演算和线性思维天然的不足之处，这一不足之处正在于：符号思维难以超越其内生的逻辑悖论。

人工智能领域真正的挑战在于：我们需要清醒地意识到，当下人工智能的发展动力，依然来自“旧世界的逻辑”。这一旧世界的逻辑的鲜明特征就是：将人机关系看作“主体世界”和“客体世界”这两个可分离的世界。这种笛卡儿式的世界观，虽然会被巧妙地转化为“人机共生”的版本，但经过盎格鲁-撒克逊文化的改造，加上新教伦理与资本主义的强力助推，导致工程师和CEO憧憬的未来是这样的：当比赛终场的哨声降临，人们满脑子想的都是输赢。

旧世界的世界观属于符号世界。人工智能底层思维的突破，关键可能就在于：超越这一旧世界的束缚，将婆罗门世界观中的因明思想与中国春秋战国时期的名辩思想以及古希腊的逻格斯思想，在更大的框架下融合起来，这是一个伟大的挑战。

米歇尔的著作有一条充满探索精神的主线：第三波人工智能浪潮已经大大突破了前两波人工智能浪潮在思想上的束缚，在哲学范式上捅开了一个突破口，不只是符号表征、计算问题，更多的是意义问题。那么符号演算、视觉处理以及机器学习将如何推动人工智能走向“觉醒”？

这个被她称作“侯世达的恐惧”的“硬核”挑战，就在于人工智能竞赛浪潮中最后的哨声，可能真的会成为“最后的”，如果人们不能摒弃满脑子输赢的想法的话。