逻辑深度的量化研究

作者: 十酒三 | 来源:发表于2020-03-23 22:36 被阅读0次

给定自然数s,令K(x)表示数据x的Kolmogorov复杂度,若长度不大于K(x)+s的程序均无法用少于t步的运行生成x,则称t最大值x在显著因子s下的逻辑深度。

R(n)代表任一超指数增长的递归函数(例如Ackermann函数),定义下列程序Exclude(n)

运行全体长度小于n-1的程序至多R(n)步,收集其中停机者的全部输出,汇总为集合A。

于是,生成集合A需要上述程序和数据n,总长度为\log n+C 。集合A中的元素无法多于定义中的程序,故A的大小不超过2的n-1次方。

任给一恒小于这一上界的增函数f(n),则不在A中且长度不超过nx总数不小于2的n-1次方,从而大于 f(n)。因此,若按字母序列出前 f(n)个不在A中的数据,其长度均不超过n

据此我们构造下列程序(包含可变参数n,K):

调用Exclude(n)生成集合A,然后依字母序枚举不在A中的元素,输出其中第K个。要求K\leq f(n)

我们注意到,需要输入的长度是\log n+\log K+C,代入上述约束得最终程序长度不超过\log n+\log f(n)+C

我们选取f(n)使得:\log  f(n)\leq n-(\log n+s +1+C)

则总长度不大于n-s-1。

于是,我们用不大于n-s-1的信息量可以输出一个不在A中的数据。但这种数据无法用小于n-1的信息量在R(n)步内输出(否则它就会落入A中)。从而这些数据的逻辑深度至少是R(n),显著因子为s。

此类数据的个数就是K值的上限f(n),根据选取它的条件可以得知:无论R(n)是增长多快的递归函数,长度上限n的数据中都有2的n-(\log n+s +1+C)次方个案例达到所要求的逻辑深度!

由于长度不超过n的数据(含空串)共O(2^n)个,我们根据上式可知,无论我们将增长多快的递归函数作为“爆炸式增长”的标准,长度不超过n的数据中都会有\Theta (1/n)的比例发生“深度爆炸”,达到天文数字的逻辑深度。这一特征可称作逻辑深度特有的长度反比律。

推论:全体长度不超过n的数据的平均逻辑深度随n的增长快于n的任意递归增函数。

同理可知,将显著因子s增大可以指数地减少这些逻辑极深数据的比例。这也是它这一名称的来由。

相关文章

  • 逻辑深度的量化研究

    给定自然数,令表示数据的Kolmogorov复杂度,若长度不大于的程序均无法用少于步的运行生成,则称的最大值为在显...

  • Hi,我们是 MobileNet 家族!

    Date: 2020/02/07 Author: CW Foreword: 轻量化网络是深度学习领域的研究热点之一...

  • 量化研究

    股本指标 总股本 在指定日期,公司已发行的普通股股份总数(不含优先股)。 A股 流通A股 在指定日期,公司已发行的...

  • 量化研究

    一、定义 量化交易是指以先进的数学模型替代人为的主观判断,利用计算机技术从庞大的历史数据中海选能带来超额收益的多种...

  • PyTorch模型量化- layer-wise Quantize

    Motivation 深度学习模型为什么要量化模型量化是深度学习Inference加速的关键技术之一, 一般训练之...

  • 深度研究:连锁模式的投资逻辑

    导读:连锁模式在我们身边随处可见,既有如麦当劳、肯德基、星巴克之类的连锁门店数量已经高达数万家的国际知名餐饮品牌,...

  • 【学习笔记】第二周 神经网络基础

    逻辑回归 for循环 VS 向量化

  • 2019-12-01

    定量方法的研究 用数字、尺度、量化的标准去逻辑分析、客观理性的看待问题。 可以包含街头拦截问卷调查、电话访问、网络...

  • 产品思考

    电子货币+量化+搬砖平台 深度学习+股票期货+量化交易使用TensorFlow(或PaddlePaddle)+ 选...

  • 文本向量化初学者指南

    摘要: 深度学习的火热已经深度的影响着文本向量化的发展,各种技术概念的提出与实践应用,也使得文本向量化由原始阶段走...

网友评论

    本文标题:逻辑深度的量化研究

    本文链接:https://www.haomeiwen.com/subject/evqgyhtx.html