《信息论》学习笔记

作者: 飞行的奋进号 | 来源:发表于2019-08-28 21:35 被阅读0次

    一、世界上的股市已经被人研究了几百年, 各种直观的能够预测股市的有用信号已经被挖掘殆尽。
    论证过程:
    信息理论对这个问题作一个比较严格的分析。
    我们假定, 股市的涨跌是个随机变量, 用 X 表示, 对于它的全部的不确定性, 就是 X 概率分布所对应的信息熵, 通常用 H(X) 这个符号来表示。
    如果你得到了一些内部消息, 这些消息我们用 Y 来表示, 那么股市对于你的不确定性就是 Y 条件下, X 概率分布的信息熵了, 通常用 H(X|Y) 表示, 它被称为条件熵,Y 是条件。
    也就是说, 在别人眼里, 股市的不确定性是 H(X), 而在你眼里, 因为有了信息 Y,因此它的不确定性变成了 H(X|Y)。
    接下来的问题就是, 什么情况下 H(X|Y) 会比 H(X) 更小? 那样的话, 说明你获得信息 Y 之后, 股市在你那里的不确定性就降低了。
    正是因为这个原因, 真正能够通过投资股票挣钱的人, 是不会告诉你所谓投资秘诀的。 而在电视上开讲座讲投资的, 反而是自己挣不到钱的。
    不过, 我一直反对年轻人花精力去找所谓的别人没有发现的和股市相关的信息,包括反对专业人士这么做。 为什么呢? 因为最有效的信息已经被发现了, 剩下来留给大家的微乎其微。
    二、人们平时看待消息时常犯的错误, 是忽视它的置信度。对于能够重复的事情, 要被检验足够多次之后, 置信度才高。
    三、 古德-图灵估计(Good-Turing Estimate), 它的原则是从所有预见到的事情中拿出很少一些资源, 分配给没有预见到的事情。
    四、误导人的信息都有哪些特征呢?
    首先, 刻意要引起你注意的人, 常常会用耸人听闻的信息打动你, 他们也知道那样的信息提供的信息量最大。
    误导人的信息的第二个特征是没有出处, 或者只有一个无法验证的出处, 几乎所有的和阴谋论相关的信息都有这个特点。
    误导人的信息的第三个特征是缺乏上下文。
    五个重要的原则, 你一定要记住:
    1.最好、 最重要的资源要用于那些出现最频繁的事情, 这样分配资源最有效, 其背后的原理是香农第一定律和霍夫曼编码。
    2.不要将相关性当成因果关系。 弱相关性对我们做事情没什么帮助, 而对于强相关性, 要搞清楚谁可能是因, 谁可能是果, 切忌因果倒置。
    3.我们很多时候, 要直接获得某种信息是很困难的, 因此可以通过获得等价信息,得到同样的效果。
    4.我们日常遇到的大部分事情, 都是渐变的, 因此通过增量改进, 要比推倒重来效率高, 这就如同对增量压缩, 可以比静态压缩高很多一样。
    5.由于我们遇到的信息很多, 一个比较高效率表示信息的方法是矢量化, 也就是将很多维度的信息映射到我们关心的几个维度。
    五、沟通需要通过信道时,主动降低传输率。
    通过多层汇报时,一事一报,不要贪多,容易失真。
    对家长的建议:
    第一个建议, 根据孩子的潜质, 决定他所学的内容。 客观地讲, 绝大部分孩子都不是数学学霸, 不适合搞奥数, 甚至不适合花太多时间做难题, 或者比别人学更多内容。
    第二个建议, 选择学校, 要选择一个适合自己的。 不要一心往学霸的圈子里扎。很多家长觉得, 孩子和学习好的学生们在一起, 自己也会被带好, 这一点完全没有错。但是, 好的学生, 可以是学习态度好的, 学习方法好的, 未必需要是脑瓜极好的学霸。
    3.男女朋友和夫妻之间的关系和沟通。
    从信息论的角度看, 所谓三观一致, 就是两个人对世界的看法的互信息很高,这样两个人沟通信道的容量很大, 丈夫说件事, 妻子马上理解了, 反之亦然。

    相关文章

      网友评论

        本文标题:《信息论》学习笔记

        本文链接:https://www.haomeiwen.com/subject/hvnuectx.html