活在美国01：《The AI Revolution》Tim Urban
我们在变化的边缘，与人类生活在地球上的崛起相媲美。
（We are on the edge of change comparable to the rise of human life on Earth. — Vernor Vinge）
指数级进步，未来很快就来
我们衡量进步的时间尺度越来越短，从万年，到百年，到现在十年里就迎来互联网的巨大变化，未来甚至会以天，秒为观察单位。
因为进步是指数增长，而不是直线增长。以过去、现在的增长速度去预测未来，都会明显低估未来走势。
而且是S曲线，爆发式增长前可能有一个短暂的沉寂期。
我们的经验限制了我们的想象力，让我们面对未来时，像顽固的老头。
关于AI
AI不只是机器人，机器人只是承载AI的一种容器。AI相当于各种硬件的大脑。
AI分类（按水平）：弱人工智能（精通某一领域）、强人工智能（达到人类的智能，和人一样全能），超级智能（超越人类）
- Artificial Narrow Intelligence (ANI)
- Artificial General Intelligence (AGI)
- Artificial Superintelligence (ASI)
弱人工智能与强人工智能
弱人工智能在生活中已经很常见了，比如iPhone的siri，反垃圾邮件过滤器，无人驾驶汽车等。
现在正在将弱人工智能向强人工智能改进，有2个关键步骤：
1、提高计算能力
2、使之变智能：仿造人类大脑，自我进化，把剩下的问题交给电脑自己处理
未来，人工智能有2个主要技能：研究AI，并把改进编码进它自己。
当实现强人工智能，即使AI和人智能相同，但它们有很多相比人类的显著优势：
硬件方面 - 速度，大小和储存，可靠和耐久性
软件方面 - 编辑、升级、广泛的可能性，集合能力，
超级智能与智能大爆发
人工智能的成长也是指数级，越智能他们自我进步的能力就越大。而人类智能区间其实很小，一个傻子和爱因斯坦的智能区别并不想我们想象得那么大，甚至相比超级智能与人类智能的差距，我们与老鼠智能的差距也不算什么了。所以，和人类智能持平的强人工智能只会是个短暂的过渡，几年到十几年就会迅速发展为人类无法理解的超级智能。
当超级智能成为全能神，我们的首要问题是，它会是个友善的神吗？
我们什么时候会触发这个奇点？
即，和人类智能相当的强人工智能什么时候会出现。有调查收集了AI专家们的意见，综合结果如下：
Median optimistic year (10% likelihood): 2022Median realistic year (50% likelihood): ****2040****Median pessimistic year (90% likelihood): ****2075****
专家们认为，强人工智能可能在2040年到来，而超级智能会在2060年出现。也就是这个世纪的事了，我们有生之年能看到。
永生或是灭亡
当我们让AI的智能超过人类时，我们就启动了一个触发点（Tripwire），一个可能使人类走向永生或是灭亡的奇点。AI强大到能改造我们的身体，同时也可能摧毁我们。
这里引入个平衡木的概念，平衡木暗示人类灭绝的必然性。
这个概念指出，所有物种都像走在一根平衡木上，终将掉下去，走向灭亡。
生命演化过程：兴起，生存一定时间，最后不可避免地滑下平衡木，灭绝了。
同时，还需要引入另一项伟大的技术：纳米技术。有了这项技术，理论上能创造任何东西。如果人工智能能利用纳米技术，那么就能让人类攻克死亡，但同时也可能被AI毁灭。
埃隆马斯克担心，人类将沦为让超级智能诞生的引导装载程序。
背水一战？
最后作者换了个角度思考：根据平衡木理论，既然人类很可能会必然地走向灭亡，那么何不抓住人工智能这一个变数，增加一丝永生的希望？
如下图，没有人工智能，人类似乎只有灭亡这一种归宿，担忧了人工智能，人类未来多了永生这种可能。
所以作者结尾说：人工智能，它是我们后一个发明，也是我们要面临的最后一个挑战。
（That’s why people who understand superintelligent AI call it the last invention we’ll ever make—
the last challenge we’ll ever face.）
检视阅读笔记：
一、本文结构
递进，上篇介绍人工智能，下篇阐述人工智能可能带来的后果。（总分总、递进、并列）
二、主题、解决问题：
人工智能会给人类世界带来什么影响。
三、关键词
奇点，触发点，平衡木，费米悖论，Great Filter
四、其它
活在美国：1/100
耗时：6h45m，阅读5h50m 整理输出55m
下判断：了解即可，不需深读。
英文原文地址：http://waitbutwhy.com/2015/01/artificial-intelligence-revolution-1.html
获取本文英文原版PDF：扫码关注公众号罗老板的笔记，回复关键词 电子书 或 书单，即可获取本文英文原版PDF，以及往期所有的电子书和书单。
活在美国计划：在『书客行动组』之英语、美国组进行（点击加入）。美国是世界一线国家，就像在国内向一线城市北上广看齐一样，我们努力学好城里的普通话（英语），跟上城里人的思想和认知。
开智百本计划：在『书客行动组』之阅读组进行（点击加入）。2017年，我们共读开智百本100本书，涵盖5大元科学：认知&神经&心理科学，网络科学，编程，数学，文艺创作。
活得久、吃得好：在『书客行动组』之运动、饮食组进行（点击加入）。
网友评论