参考文献链接：《Normalization and variance stabilization of single-cell RNA-seq data using regularized negative binomial regression》

前言

单细胞标准化的目的是消除技术误差对count数据的影响，但仍能保留生物学上的差异，以此良好的标准化应该具有如下特征：

1. 具有标准化后的表达水平不应该与cell的测序深度相关，下游处理也不收cell测序深度的影响
2. 标准化后的某基因在cell间的方差要能反应细胞的异质性；即标准化后具有高方差性的具有应该在不同细胞类型中里面差异表达，而管家基因应该出现低方差性

作者在这里提出了一种新的统计学模型，用于对scRNA-seq数据进行标准化和方差平稳转换。作者的观点是不同组的gene并不能单纯的通过常数因子进行归一化，而需要对每个基因构建一个广义线性模型（GLM）。即将每个基因在不同细胞内的UMI计数作为响应变量，该gene对应的不同cell的深度作为决策变量；而作者采用正则化的负二项回归的残差来代表有效的标准化后的数值，而这些数值不是技术因素的影响

Method

作者采用负二项回归建立模型：

以该基因在某细胞中的的表达量为响应变量，以该细胞的深度为决策变量建立负二项回归
其中 E(x_i)为 gene _i 在cell j 的UMI count的期望。
而 E(x_i) 是通过拟合负二项分布而得，值得注意的是这里建立负二项分布是对线性模型的error进行建立：

如上图，由于 ε_i 满足于负二项分布，那么 y_i 也应该服从负二项分布，即当确定一个 x_i 后，对应 y_i 的观测值（观测值也可以理解为生物学重复）服从负二项分布，E(x_i) 即为负二项分布的期望值（分布最高点对应的值），构建负二项分布的目的是方便对系数进行假设检验

因此作者做了三步处理：

1. 对每一个基因拟合一个回归模型（cell 深度为决策变量，该基因在这个细胞中的表达量作为响应变量）
2. 利用模型的参数值来学习data全局的趋势
3. 核回归（ksmooth函数）来捕捉这些趋势，并定义仿射函数，将UMI计数转换为pearson残差

其中：
上式 z_ij 代表pearson残差
μ_ij 代表由基因表达与细胞测序深度的负二项回归计算所得，一般回归直线上的点即为 μ_ij，确定一个 m_j ，则可得到一个以 μ_ij 为期望观测值的负二项分布

这里pearson残差 z_ij 的意义是：

对于某基因A，在 m₃ 中基因A表达量位于对应期望的下方，则代表在 m₃ 中基因A表达量偏低；而在 m₂ 中靠近直线，则表明表达接近于对应期望；在m₁ 中表达位于直线上方的，则表明在 m₁ 中基因A表达量偏高，以此来突出基因A在不同细胞中的表达情况