总体方差的无偏估计

作者: DeepMine | 来源:发表于2018-09-28 13:50 被阅读0次

总体方差的无偏估计
Statistics基本定理
数据分析学习Day2---商务与统计（第五章）
总体方差与样本方差
统计学笔记4 抽样分布
参数估计：无偏性、有效性、一致性
订正一些错误
5.8 两个总体方差之比的区间估计
无偏估计
Pandas计算标准差

样本平均值average： $\overline{X}=\frac{1}{n}\sum_{i=1}^nx_i$

样本方差variance： $S^2$

总体均值（期望）mean： $\mu$

总体方差variance： $\sigma^2$

$\begin{array}{lcl} E((\overline{X}-\mu)^2) \\ =E((\frac{1}{n}\sum_{i=1}^nx_i-\mu)^2) \\ =E((\frac{1}{n}\sum_{i=1}^n(x_i-\mu))^2) \\ =E((\frac{1}{n}\sum_{i=1}^n(x_i-\mu))^2) \\ =\frac{1}{n}.(E(\frac{1}{n}\sum_{i=1}^n(x_i-\mu)^2)+\frac{1}{n}.E(\sum_{i\ne j}(x_i-\mu)(x_j-\mu)) \end{array}$

$\because 样本是从同一总体独立同分布抽样，协方差为0$

$\therefore E(\sum_{i\ne j}(x_i-\mu)(x_j-\mu)) = 0$

$\begin{array}{lcl} =\frac{1}{n}\sigma^2+\frac{1}{n}.E(\sum_{i\ne j}(x_i-\mu)(x_j-\mu)) \\ =\frac{1}{n}\sigma^2 \end{array}$

样本方差

$\begin{array}{lcl} E(S^2) \\ =E(\frac{1}{n}\sum_{i=1}^{n} (x_i-\overline{X})^2) \\ = E(\frac{1}{n}\sum_{i=1}^n((x_i-\mu)-(\overline{X}-\mu))^2) \\ =E(\frac{1}{n}\sum_{i=1}^n((x_i-\mu)^2-2(x_i-\mu)(\overline{X}-\mu)+(\overline{X}-\mu)^2)) \\ =E(\frac{1}{n}\sum_{i=1}^n(x_i-\mu)^2-\frac{1}{n}\sum_{i=1}^n2(x_i-\mu)(\overline{X}-\mu)+\frac{1}{n}\sum_{i=1}^n(\overline{X}-\mu)^2) \end{array}$

中心极限定理，足够样本量情况下，样本的均值趋于总体的期望
$\because$

$\begin{array}{lcl} \frac{1}{n}\sum_{i=1}^n(x_i-\mu) \\ = \frac{1}{n}\sum_{i=1}^nx_i-\mu \\ =\overline{X}-\mu \end{array}$

$E(\overline{X})=\mu$

$\therefore$

$\begin{array}{lcl} E(S^2) \\ = E(\frac{1}{n}\sum_{i=1}^n(x_i-\mu)^2-2(\overline{X}-\mu)(\overline{X}-\mu)+(\overline{X}-\mu)^2) \\ =E(\frac{1}{n}\sum_{i=1}^n(x_i-\mu)^2-(\overline{X}-\mu)^2) \\ =E(\frac{1}{n}\sum_{i=1}^n(x_i-\mu)^2)-E((\overline{X}-\mu)^2) \\ =Var(X)-Var(\overline{X}) \\ =\sigma^2-\frac{1}{n}\sigma^2 \\ = \frac{n-1}{n}\sigma^2 \end{array}$

总体方差的无偏估计

$\begin{array}{lcl} E(S^2)\\ =E(\frac{1}{n-1}\sum_{i=1}^{n} (x_i-\overline{X})^2) \\ =\frac{n}{n-1}.E(\frac{1}{n}\sum_{i=1}^{n} (x_i-\overline{X})^2) \\ =\frac{n}{n-1}.\frac{n-1}{n}\sigma^2 \\ = \sigma^2 \end{array}$

总体方差的无偏估计
样本平均值average：样本方差variance：总体均值（期望）mean：总体方差variance：样...
Statistics基本定理
概念：总体均值总体方差样本均值样本方差无偏估计：用样本统计估计总体参数时，估计量的均值（数学期望）与未知...
数据分析学习Day2---商务与统计（第五章）
1.参数 2.有偏估计与无偏估计但统计量都是无偏估计时，应该考虑方差即分散程度，选取最小方差的无偏估计。 3.抽...
总体方差与样本方差
最近看参数估计的时候总会遇到由样本均值和方差导出对总体均值和方差的无偏估计. 对于均值部分很好理解, 样本均值即为...
统计学笔记4 抽样分布
总体分布均值总体分布方差样本均值样本方差（无偏）样本均值抽样分布方差样本均值抽样分布均值样本均值抽样分...
参数估计：无偏性、有效性、一致性
无偏性：E(估计量)=总体参数的真值有效性：对某参数的一个估计量β_hat, 在该参数的多个估计值中方差最小，则...
订正一些错误
numpy中cov计算的是无偏估计(方差的分母是n，而无偏估计的分母是n-1)
5.8 两个总体方差之比的区间估计
方差相关的估计算是相对难一点的。概要来说：单个总体的方差的区间估计用到了卡方分布，方差估计是为了评估总体的稳定性...
无偏估计
今天学习到一个名词，无偏估计。如何理解“不论总体服从什么分布，样本均值是总体均值的无偏估计量”这句话，什么是无偏估...
Pandas计算标准差
标准差（或方差），分为总体标准差（方差）和样本标准差（方差）。前者分母为n，后者为n-1。后者是无偏的。 pan...