评《大数据的傲慢与偏见》

Cathy O'Neil: Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy

这个世界从来没有唯一的真相可言，因为人们是通过各种各样的模型来认识这个世界。有些模型能够帮助我们更好地理解这个世界，如各种各样的物理学模型，但有些模型则偷偷地加入了人类的偏见而扭曲了世界的常规样子，有人通过扭曲的世界图景而获利。这些模型就是以大数据作为真实性担保的各种算法。在这个意义上，世界的真实性并非一个客观的概念，而是人们所能期望的应然的世界状态。

长久以来，数学被认为是刻画世界真实结构的最佳（甚至是唯一的）方法。伽利略认为宇宙是用数学所写成的，这一观点主导了数学在科学研究中的地位。然而，在人工智能利用算法模型处理人类日常事务之前，数学更多的是一种研究外部世界的工具，而对质性的生活世界保持一定的距离。随着，计算机算力的不断提升，获取大量用户数据越发简单，建立在二者基础上的算法模型逐渐成为人们理解世界并作出相应决策的工具。在诸多算法模型中，有一类模型适用范围广、对使用者会造成伤害，但是专家学者和使用者不理解它是如工作的，作者将这类模型称之为毁灭性数学武器。