信息：信息就是减少不确定性的东西。
复杂度：表达一个过程所需要的最少信息量。
秩序：具有某种目的的信息。
计算机的发明提供了一个存储人类文明，并处理越来越复杂的信息的手段。
熵：随机性的度量。熵越大，随机性越高，或者说系统越混乱。
热力学第二定律：在一个封闭系统中熵（封闭系统中的随机性）通常是增加的，而不是减少的。
衰老是一种熵增的过程，所以反过来说，生命是一种负熵。
生命进化过程的目的就是活下来。算法的演化的目的就是最优化引擎性能、效率或其他标准。
人类不断改进记录信息的方法，促进了科技大发展。
信息技术有巨大的包容性，随着时代的发展，它最终将包括经济活动和文化事业的方方面面。
可以说以后任何行业都将被IT化，这是目前正在发生着的事情。教育、医疗、餐饮、旅游、工业生产、农业生产，可以说都正在进行着这种IT化。因为信息技术能够对传统行业进行升级改造，提高效率。
范式的生命周期：按连续的S形曲线。
新范式变更的周期是每十年缩短一半。
一项技术的生命周期可以分为7个阶段：
1）前导阶段
2）发明阶段
3）发展阶段
4）成熟阶段，也成为虚假冒充阶段
5）稳固阶段
6）晚年阶段
7）退出阶段
五大范式：
机电、继电器、真空管、离散晶体管、集成电路
第六范式：三维分子计算
GNR（遗传学、纳米技术和机器人）将主导21世纪上半叶信息革命的方方面面。
人类知识和艺术的每一种表达形式——科学抑或工程设计、文学、音乐、绘画、电影、都能表达为数字信息。
宇宙的基石不是能源，而是信息转换。
——诺伯特·维纳
哲学三大问题：什么是生命？什么是意识、思想和记忆？宇宙是如何运转的？信息的观点涵盖了以上三者。
——弗雷德金
进化（有时称作遗传）算法的结果将为复杂问题提供优雅、美丽并且智能的解决方法。搞遗传算法的人，基本工作就是调参数——上帝的参数。
加速回归定律基本上是一种经济理论。现代经济理论和政策都是以过时的模式为基础的，这个模型强调能源成本、商品价格，并把厂房和设备方面的投资作为关键驱动因素；而在很大程度上忽略计算容量、内存、带宽、技术的规模、知识产权、知识和其他日益重要的（和日益增加）推动经济增长的成分。
是的，技术的指数级进步将全面改变过时的经济学理论。因为传统的经济学理论是基于“直观的线性”的历史观的。在技术爆炸的时代，这种经济理论的基础就错了。在技术指数级进步的时代，社会的GDP增长其实被大大低估了。举个例子来说，在2000年的时候，一部2G的手机功能机要2000块钱左右，现在一部智能手机才2000来块钱。如果把这部智能手机拿到2000年去，会值多少钱，至少得2万块吧？这种隐含的财富其实被整个社会享受了，而没有反映在GDP统计中。
脱媒现象：进行交易时跳过所有中间人而直接在供需双方间进行。
信息技术的进步将导致各行各业的脱媒现象。比如以前买保险要找保险经纪人，现在只要在网上保险超市里，各种险种你可以随便挑，根本不需要经纪人了。这就是脱媒。
技术阶梯正在向上提升，因此我们在教育各个方面的投资均以指数级速度增长。可以说这个时代的教育行业是个朝阳行业。因为一些低端的工作可以用人工智能来完成，社会需要的是高端人才。所以只有提高教育水平。教育是越来越需要的行业。
总之，加速回归定律在技术进化上的表现就是：指数级的增长。
网友评论