世上很多事物的表象具有迷惑性正如苏轼古诗《题西林壁》缩写:横看成岭侧成峰,远近高低各不同,不识庐山真面目,只缘身在此山中。这首诗描写的是人在面对一座山时,从不同的角度看会有不同的印象。时下人在面对更为复杂的各种现象时难免会碰到更多的迷雾,这时人们会借助各种数据分析来协助研究得出结论。但众多结论里面可能既有真理也有陷阱,如何插亮火眼金睛识破一本正经的胡说八道呢?我们需要掌握一些基本的统计学原理。
《简单统计学》是美国统计学家加里·史密斯所写。加里·史密斯是耶鲁大学博士,曾在耶鲁大学任教7年,他的课程因结合日常生活中的常见案例,深入浅出地分析数据而火爆日常。
《简单统计学》本书的编写风格与其教学风格相近,通篇基本由案例组成,没有复杂的公式和高深的统计原理,既像听故事也像在看侦探破案。作者巧妙地揭示生活中的各种数据骗局,并用简单的统计学原理揭穿了其中的把戏,加深读者对统计学原理的理解。《简单统计学》一共有19章,前面18章各自针对生活种常见的统计谬论来介绍案例,然后讲解出现这种谬论的原因、做法,每章结尾都有一个小结,教你如何轻松识破一本正经地胡说八道。第19章则是概括总结,教你面对数据分析何时相信,何时怀疑?总结了一系列可能导致谬论的陷阱如:模式诱惑、混杂因素、自选择偏差、幸存者偏差、图像变形、逻辑错误、聚集现象、均值回归和平均定律等等。
这些陷阱基本可分为两大类:一方面来源于数据自身,如自选择偏差、幸存者偏差、随机数据的聚集现象和均值回归等。另一方面来源于研究人员或者读者,如模式诱惑、图像变形和平均定律等。
数据自身的特点可能导致统计谬论。如自选择偏差是指做出不同选择的人本身可能就是不同的。很多数据在进入统计分析之前就有倾向性,比如对不同学历学生毕业后的工资对比。我们常听说大学毕业生的工资高于高中毕业生,工资差异似乎可以衡量上大学的财务回报,实际上大学毕业生工资高可能因为他们本身更聪明,更有抱负,而不仅限为学历的不同。幸存者偏差则往往出现在回溯性研究者中,比如一家航空公司的满意度调查中显示84%的人更喜欢这家航空公司,这个测试是在这家公司一架航班上的乘客中开展的。那么选择这家航空公司的旅行者当然更喜欢这家公司,这没什么好奇怪的。数据的聚集现象是指某种数据会巧合性地多次出现,比如连续性地投中三分球就像你抛硬币连续出现3次正面朝上,这无需过于惊奇进而寻找解释。均值回归是指极端值向平均值靠拢并不是平庸化,这是由于表现相对于能力波动导致的。这些大多由于数据来源或者数据本质属性被人们过度关注或解释而导致的一些谬误。
另一方面的陷阱来自研究人员或者读者。很多研究人员分析数据时沉迷于对模式、结论和统计显著性的追求,进而对数据进行修剪、取舍,基于一些特定的数据来开展数据分析。用数据来编造理论,自然会证明这种理论和这些数据相符合,但这可能只是相关性或者是统计谬论。图像变形是指改变横纵数轴的起点数据或者间距,故意夸大或缩小数据起伏,达到视觉上的误导作用。平均定律如人们认为赌博多次成功后则会迎来失败,或者多次失败后必会成功,这是错误的。就像人们扔硬币,正面代表成功,背面代表失败,哪怕连续5次扔硬币是正面向上,但第6次正面向上的概率还是50%,并不会因前面的状况而增加或者减少。
在大数据时代,数据分析就是一种分析工具。如同一把刀,用得好能帮你拨开迷雾,披荆斩棘,发现研究现象的因果关系;用得不好可能为数据所累,用搜刮的数据编造理论自欺欺人,甚至欺骗大众增加迷雾。
如何保持清醒避开陷阱无论对研究人员还是读者都至关重要。面对数据分析后的结论,我们保持警惕,既看结论,也查数据。思考原始数据的清理搜刮是否合理,数据模式的建立是否得到理论的解释,理论是否言之有理,能否通过新数据的检验。正如书名所言,简单统计学其原理大道至简。实践出真知,通过掌握基本原理,检查数据分析的理论能否经得起新数据的检验就是很好的考量标准。
网友评论