信息的量化度量：世界上有稳赚不赔的生意吗？(笔记)

信息的量化度量：世界上有稳赚不赔的生意吗？(笔记)

今天给大家分享一段我和小宁主编昨晚的对话>>

小宁：啥叫比特啊？

金勇：比特就是当你面临二选一的时候，两个可能性都一样的时候，你的选择成本呀。 二选一要用一比特，四选一就要两比特呀。

小宁：四选一我知道了，吴老师说的32选一，我在心里算了下，确实需要问5次。但是有没有办法只问4次就得出答案？

金勇：没有办法的。 这可以用归纳法或者二叉树去证明，就是5次询问，5比特信息。

小宁：你这个树形结构、归纳法啥的，我看不懂，但我知道你的意思是说至少也要问5次从数学上可以证明。那这个简单的32选一的问题怎么套用吴老师给出的公式呢？

金勇：恩， 如果说N种事情等可能，所要用的比特数就是 log以2为底的N。

小宁：哇，那这么算来，log以2为底32=5，也就是5比特，这是巧合吗？信息论可以直接告诉我们最简单的答案啊？

金勇：这不是巧合，你先记住今天吴老师给出的抛物线图，知道0.5，也就是一半对一半是错，所带来的不确定性是最大的，结合下一讲的内容，我会告诉你为什么不是巧合了。

（之前我在带娃吃火锅的某个周六，其实就是这样被小宁主编引上的这条”贼船“）

其实这段对话既有故意的设计，也有我的深意。 

1.如果这件事情我真的懂了，我给小宁解释起来是应该是比较轻松的；

2.你可以时刻给自己找一个“小宁主编”，经常问自己为什么、怎么来的，你会发现自己对某些知识的掌握程度是否扎实。

#金勇笔记# #知识解读

结构化票据 （Structured Notes ， Structured Product）

这是一个我今天才知道的金融学术语， 对我来说非常陌生。 但我发现它的组成部分我能看明白，通常由两部分组成：

- 第一部分是固定收益产品， 比如债券（Debt）；

- 另一部分是金融衍生品，比如期权（Call&Put）；

所以这个产品也是一种投资组合的设计， 而且据我看到的文章显示，这种金融产品其实就是”过度设计“的金融产物。 我希望你在投资的时候不要盲从，像芒格一样──做个笨人，不投自己不懂的领域。不知道你对”上帝喜欢笨人“这个标题还有没有印象，如果没有印象，去搜索看看？

这里再提个小建议，我们组的算法同事其实为了让大家更准确的搜索到感兴趣、全信息的搜索，做了大量的无名工作。 得到app其实今年是个转型之年，除了作为大家的课堂，她还可以是一处”知识引擎“，请你善加利用。

#金勇笔记#  #延伸阅读

延伸一， 关于单位公制

我对世界上通用的物理量公制有些好奇，有个网站介绍： http://www.us-metric.org/commonly-used-metric-system-units-symbols-and-prefixes/     

我想到一个有意思的问题，除了比特这个单位，还有哪些物理量的计算涉及到对数运算？

延伸二， 有同学和我要香农论文《通讯中的数学原理》的地址

http://math.harvard.edu/~ctm/home/text/others/shannon/entropy/entropy.pdf

#金勇笔记# #前期回顾

我很担心同学把问题藏着掖着，耽误之后的理解。于是我跟小宁决定保留一个环节是答疑之前模块的部分：

问题：有同学问第一讲中的”三比特信息“是什么意思？

回答： 三个故事，每个故事都用归到一比特的信息，所以最后是三个故事三比特。

问题： 请解释”如果一种情况发生的可能性大，另一种发生的可能性小，所需要的信息就不到1比特”

回答： 如果一种情况发生的概率是p，那么另一种情况发生的概率是 1-p， 此时所要消耗的比特大小是：

-p * Log p - (1-p) * Log (1-p)

(空一行便于查看）

这个函数中p的范围是0至1， 它的最高点就是对应于 p=0.5， 如果p取0.01， 结果就是0.08 比特

问题：此时面对着一种情况0.01的概率，而另一种情况是0.99，那我消除了多少不确定性？

回答： 在信息论的后期会提到熵的计算公式， 还有熵增（entropy gain)的概念。 所谓的消除不确定性，是指当我获取了这个新知后给整个系统的熵是否带来了更大的熵增。

在这里， 一种情况特别极端（99%）另一种1%，如果这种现象为真，说明我接下来要考虑的很大概率上就是要去分析这99%了， 它给我带来的有“新知”的收获是很小的。

打个比方，你在上高中时来了一个同桌，他和你的所有知识体系有99%是高重合的，只有1%不一样。那这个知道你要从他身上学习到的新知+他从你身上学习就不会太多。 如果他有50%是你不知道的， 这种“你学习他的知识+他学习你的知识”所产生的新系统变化是最大的。