20190214《技术奇点》

缘起

• 这书是从江宁图书馆偶然看到借回来的，20190211开始看1-38/237，全书计划7个。
• 《The TECHONLOGICAL SINGULARITY》，副标题是当机器拥有人性，我们将面对怎样的世界？
• 作者是默里.沙纳汉，译者是霍斯亮，中信出版社，2016年5月第1版，第1次印刷。
• 20190214全书读完，用时6个番茄钟。

内容

前言

• 技术奇点可能是一种生存机会，要理解这一概念，必须放弃人类的视角，采取一种更具宇宙性的视角。

chap1 人工智能，机器与人类的博弈 1/237

• 当机器开始学习
  • 1950年，Alan Turing发表的文章“Computing Machinery and Intelligence”。
  • 图灵测试并不完备，只是针对语言。判断人工智能的有效方法是看它如何与我们所处的环境互动。
  • 事实上，学习的能力，不管是什么形式的学习，都是建立智能的基础。学习耗费时间，也充满风险
• 常识与创造力，让机器了解世界
  • 常识指的是能够理解日常生活中物理环境和社会环境的动作规律。常识用于指导行动。如果缺乏常识，就会在行动上表现出来。
• 实现人工智能，模仿还是创造
  • 早期人们模仿鸟类设计能活动的双翼，但这种方法失败了。人工智能的开发不应该模仿自然界，而应该遵循更适合硅晶管计算的原则。

chap2 全脑仿真，让仿生人工智能成为可能 17/237

• 为大脑制造副本
  • 在神经元中，树突接收信号、轴突输出信号、胞体进行信号处理。
  • 大脑包含的神经元数量，高达800亿个。
• 全脑仿真的三个阶段
  • 测绘
  • 模拟
  • 实体化
• 对小鼠进行全脑仿真
• 游戏厂商助力神经虚拟技术
  • 霍奇金-赫胥黎模型
• 关于全脑运算的大胆构想
  • 叠加等量子效应可以用来帮助解决棘手的搜索问题。
  • 全脑主要是量多，不一定要多强的处理器。
  • 量子元胞自动机
• 为虚拟大脑配备合成身体
  • 生物的大脑最擅长学习和适应。
• 从虚拟人到虚拟社会
• 把人工智能的“精灵”从瓶子里放出来

chap3 无缝对接，人工智能走出实验室 53/237

• Siri，揭开人工智能的神秘面纱
• 让机器了解真实世界
  • 数字个人助理（比如Siri）的一个不可忽视的缺点就是它们并不了解真实世界。
• 建立模型，学会处理不确定性
  • 维数灾难
• 大数据带来人工智能
• 用最短的时间，去最多的城市
  • 对世界建模，并运用这些模型进行预测，都是实现其他目的的手段。
  • 动物有内驱力
  • 不确定性不会使我们超越数学和计算的边界，而是会带我们走进概率理论的数学范畴。
• 人工智能必须回答的三个问题
  • 一、这一媒介的回报函数是什么？会告诉我们它将如何表现
  • 二、它怎样学习？处理什么数据？使用什么学习技巧？预置其中的日常知识有哪些？
  • 三、它如何实现预期回报最大化？它做到这一点的优化技巧有多出色？善于解决什么问题，弱点和局限性有哪些？
• 人类级人工智能，学会享受生活之美

chap4 超级智能，想象另一种可能 87/237

• 通往人工智能之路
• 不吃不睡不领工资的超级智能员工
• 回报最大的方法不一定最好
  • 一、设计正确的回报函数，为人工智能确立目标
  • 二、使用有效的机器学习，在电脑中建立一个世界的模型
  • 三、根据这个模型，建立强大的最优化算法，并使用这种最优化算法取得最大的预期回报
  • 与进化过程相反，我们畅想的人工智能是要让回报函数最大化。
• 塑造超越人类的力量
  • 加速运转和平行计算
  • 同样的人工智能可能在某些方面超越人类，但是在另一些方面却是有缺陷的。
• 是“使用者错觉”还是人格化

chap5 机器之心，天使还是魔鬼 119/237

• 仿生人工智能有感情吗
• 以温柔之心对待人工智能
• 人工设计的人工智能有感情吗
  • 意识有外在部分和内在部分。外在部分是客观的，而内在部分是完全主观的。
  • 当动物不仅能够认识周围的环境，还能够从过去的经历中总结经验，预测自己的结果时，就可以说它表现出了一体化的认知。
• 超级智能的自我意识
• 超级智能的理智与情感
  • 目的、认知和一体化，任何强人工智能都必须具备这三种属性

chap6 人工智能，逐渐显现的影响 151/237

• 人类级人工智能，至关重要的一步
• 奇点何时到来
  • 技术进步和复利投资的原理是一样的，你拥有的越多，回报增长得就越快。
• 更稀缺，更富足
  • 无论是好是坏，都会由富裕的精英推动人类文明向前发展，保护传承人类文化的精髓。
• 被技术改变了的生活
• 人工智能，不确定的未来

chap7 未来已来，人工智能的一万种可能 179/237

• 复制人带来的新问题
  • 倒开始考虑人工智能副本的继承权的问题了
• 超越人性，应对人工智能的冲击
  • 一个好的团队通常由具有互补技能的人组成。
• 意识上传，对现有关系的全盘颠覆
  • 利用技术征服死亡是超人类主义者的终极目标，而意识上传是实现目标的方法之一。
• 未雨绸缪，规避人工智能的风险
  • 人工智能开发者的挑战就在于要仔细设计初始回报函数，确保由此导致的行为是可取的。
• 开发安全的超级智能
• 将道德嵌入超级智能
• 我们的宇宙哲学观

结语 227/237

• 作者仍然认为科幻小说是灵感的重要源泉和探索重要哲学问题的方法。2014年10月。

词汇表 231/237

• 奇点，历史上（预测的）地球上非生物智能的总和超过人类智能总和的时间点。

收获

• 全脑仿真，然后用最优函数去驱动机器，在这个过程中考虑到机器作为社会人的角色，以及是否会有道德风险。
• 这并不是一本传统的科学著作，也不是预测，而是按作者的思考呈现出的一种未来可能性。