Gamma函数推导

作者: 热爱生活的大川 | 来源:发表于2018-11-02 20:23 被阅读0次

一、Wallis公式

$\lim_{n\to+\infty}\frac{1}{ 2n+1 }(\frac{ (2n)!! }{ (2n-1)!! })^{2}=\frac{ \pi }{2} \\ \lim_{n\to+\infty}\frac{1}{ 2n+1 }(\frac{ 2^{2n}(n!)^2 }{ (2n)! })^{2}=\frac{ \pi }{2} \\ \frac{ (2n)!! }{ (2n-1)!! }\sim\sqrt{ \pi n } \\ \frac{ (2n)!!(2n-2)!! }{ ((2n-1)!!)^2 }\sim\frac{ \pi }{2} \\ \frac{ 2\cdot4 }{ 3\cdot3 } \cdot \frac{ 4\cdot6 }{ 5\cdot5 }\cdot \frac{ 6\cdot8 }{ 7\cdot7 } \cdot \frac{ 8\cdot10 }{ 9\cdot9 } \cdots = \frac{ \pi }{4}$
通常根据 $sin^n(x)$ 的积分递推性及其关于n的单调性应用极限夹逼准则推导出。

令 $I(n)=\int_{0}^{\pi}sin^{n}(x)dx$
$\begin{aligned} I(n) &=\int_{0}^{\pi}sin^{n}(x)dx \\ &=-\int_{0}^{\pi}sin^{n-1}(x)dcos(x) \\ &=-sin^{n-1}(x)cos(x)|_{0}^{\pi}+\int_{0}^{\pi}cos(x)dsin^{n-1}(x) \\ &=(n-1)\int_{0}^{\pi}cos^{2}(x)sin^{n-2}(x)dx \\ &=(n-1)(\int_{0}^{\pi}sin^{n-2}(x)dx-\int_{0}^{\pi}sin^{n}(x)dx) \\ &=(n-1)(I(n-2)-I(n)) \\ &=\frac{(n-1)}{n}I(n-2) \\ \end{aligned}$
从而有 $\frac{I(n-2)}{I(n)}=\frac{n}{n-1}$ ，即
$\frac{I(2n-2)}{I(2n)}=\frac{2n}{2n-1} \\ \frac{I(2n-1)}{I(2n+1)}=\frac{2n+1}{2n}$
由 $I(0)=\pi, I(1)=2$ 得
$\begin{aligned} I(2n)&=\frac{(2n-1)!!}{(2n)!!}\pi \\ I(2n+1)&=\frac{2(2n)!!}{(2n+1)!! } \\ \end{aligned}$
根据 $sin(x)$ 的单调性 $sin^{2n+1}(x)\le{sin^{2n}(x)}\le{sin^{2n-1}(x)}$ 可知
$\frac{(2n)!!}{(2n+1)!!} \le \frac{(2n-1)!!}{(2n)!!}\frac{\pi}{2} \le \frac{(2n-2)!!}{(2n-1)!!}$
整理为
$1\le(2n+1)(\frac{(2n-1)!!}{(2n)!!})^{2}\frac{\pi}{2}\le{\frac{2n+1}{2n}}$
由极限夹逼准则可得出
$\lim_{n\to+\infty}\frac{1}{2n+1}(\frac{(2n)!!}{(2n-1)!!})^{2}=\frac{\pi}{2}$

二、 $(1+\frac{1}{n})^n$ 的单调性

对于 $f(n) = (1 + \frac{ 1 }{ n })^{n+a}$ ，
当 $a \in (-\infty, \frac{ 1 }{ 2 })$ 时， $f$ 为增函数；
当 $a \in [\frac{ 1 }{ 2 },\infty)$ 时， $f$ 为减函数。

不等式法
令 $a_n=(1+\frac{1}{n})^n$ ， $b_n=(1+\frac{1}{n})^{n+1}$ ，利用均值不等式 $(a_1 a_2 ... a_n)^{\frac{1}{n}}\le\frac{a_1+a_2+...+a_n}{n}$ 可得：
$\begin{aligned} a_n&=(1+\frac{1}{n})^n\cdot1 \le (\frac{n(1+\frac{1}{n})+1}{n+1})^{n+1}=a_{n+1} \\ \frac{1}{b_n}&=(\frac{n}{n+1})^{n+1}\cdot1\le(\frac{n+1}{n+2})^{n+2}=\frac{1}{b_{n+1}} \end{aligned}$
因而， $a_n=(1+\frac{1}{n})^n$ 单调递增， $b_n=(1+\frac{1}{n})^{n+1}$ 单调递减；又 $2 \le a_n \le b_n \le 4$ 知 $a_n$ ， $b_n$ 均有极限，取对数后用L'Hospital法则可得极限为 $e$ 。

函数法
还可以用 $f(x)=(x+a)\ln(1+\frac{1}{x})$ 的导数来判断单调性：
$\begin{split} f'(x)&=\ln(1+\frac{1}{x})-\frac{1}{1+x}-a(\frac{1}{x}-\frac{1}{1+x}) \\ f''(x)&=\frac{(2a-1)x+a}{x^2(1+x)^2} \end{split}$
当 $f''>0$ 时 $f'$ 为增函数，由 $\lim_{x\to\infty}f'=0$ 知 $f'<0$ ，即 $f$ 为减函数；反之，当 $f''<0$ 时， $f$ 为增函数。
当 $a\in (-\infty,\frac{1}{2})$ 时， $f''<0$ ， $f$ 为增函数；当 $a\in[\frac{1}{2},\infty)$ 时， $f''>0$ ， $f$ 为减函数。

三、Stirling公式

$n!=\sqrt{2 \pi n}(\frac{n}{e})^n$
直接带入Wallis公式即可验证。以下为启发式寻找方法。

寻找 $n!$ 的渐进等式，即寻找满足条件 $\lim_{ n \to +\infty }\frac{ n! }{ a_n } = 1$ 的数列 ${a_n}$ 。

当 $a_n=n^n$ 时， $\lim_{n\to+\infty}\frac{n!}{a_n}=0$ ， $a_n$ 过大；

当 $a_n=(\frac{n}{2})^n$ 时，令 $b_n=\frac{n!}{(\frac{n}{2})^n}$ ，则由
$\lim_{n\to+\infty}\frac{b_{n+1}}{b_n}=\lim_{n\to+\infty}\frac{2}{(1+\frac{1}{n})^n}=\frac{2}{e}<1 \tag{2.1}$ 知级数 $\sum{b_n}$ 收敛，从而 $\lim_{n\to\infty}b_n=0$ ， $a_n$ 过大；

受(2.1)式启发，令 $a_n = (\frac{n}{e})^n$ ， $b_n=\frac{n!}{(\frac{n}{e})^n}$ ，利用 $(1+\frac{1}{n})^n$ 单调递增趋于 $e$ 的结论，可得
$\frac{b_{n+1}}{b_n}=\frac{e}{(1+\frac{1}{n})^n}>1$ 知 ${b_n}$ 严格单调递增， $\lim_{n\to\infty}b_n=\infty$ ， $a_n$ 过小；

令 $a_n=n(\frac{n}{e})^n$ ， $b_n=\frac{n!}{ n(\frac{n}{e})^n }$ ，利用 $(1+\frac{1}{n})^{n+1}$ 单调递减趋于 $e$ 的结论，可得
$\frac{b_{n+1}}{b_n}= \frac{e}{(1+\frac{1}{n})^{n+1}}< 1$ 正项级数单调递减， $b_n$ 极限存在。将数列整理为 $n!=b_nn^{n+1}e^{-n}$ ，带入Wallis公式： $\lim_{n\to+\infty}\frac{2^{2n}(n!)^2}{(2n)!\sqrt{n}} =\lim_{n\to+\infty}\frac{2^{2n}b_n^2n^{2n+2}e^{-2n}}{b_{2n}(2n)^{2n+1}e^{-2n}\sqrt{n}} =\lim_{n\to+\infty}\frac{b_n^2\sqrt{n}}{b_{2n}2} =\sqrt{ \pi } \tag{4.1}$
此时 $b_n$ 极限不能为大于0的常数，否则上式无法成立。可知， $\lim_{n\to\infty}b_n=0$ ， $a_n$ 过大；

由(4.1)式中有 $\sqrt{n}$ ，调整 $a_n = \sqrt{n}(\frac{n}{e})^n$ ， $b_n = \frac{n!}{\sqrt{n}(\frac{n}{e})^n}$ ，
验证单调性： $\frac{b_{n+1}}{b_n} = \frac{e}{(1+\frac{1}{n})^{n+1}}(1+\frac{1}{n})^{\frac{1}{2}}<1$ 求取极限值：将数列整理为 $n! = b_nn^{n+\frac{1}{2}}e^{-n}$ ，带入Wallis公式：
$\begin{aligned} \lim_{n\to+\infty}\frac{2^{2n}(n!)^2}{(2n)!\sqrt{n}} = \lim_{n\to+\infty}\frac{b_n^2}{b_{2n} \sqrt{2} } = \sqrt{ \pi } \end{aligned}$
从而， $\lim_{n\to+\infty}b_n= \sqrt{2\pi }$ 。
调整 $a_n= \sqrt{2 \pi n}(\frac{n}{e})^n$ 后，就能满足条件 $\lim_{n\to+\infty}b_n=1$ ，从而
$n! \sim \sqrt{2 \pi n} (\frac{n}{e}) ^n$

第4、5两步也可以设 $a_n=n^x(\frac{n}{e})^n,x\in(0,1)$ ，则 $b_n=\frac{ n! }{ n^x(\frac{ n }{ e })^n }$
1.敛散性条件 $\frac{ b_{n+1} }{ b_n } = \frac{ e }{ ( 1+\frac{ 1 }{ n } )^{ n+x } } < 1$ 满足时，需 $x \in [\frac{1}{2},1)$
2.带入Wallis公式： $\lim_{n\to+\infty}\frac{2^{2n}(n!)^2}{(2n)!\sqrt{n}} =\lim_{n\to+\infty}\frac{b_n^2 n^{ x-\frac{1}{2} } }{b_{2n} 2^{x} } =\sqrt{ \pi }$ 从而 $x=\frac{1}{2}$ 时， $b_n$ 的极限为非零常数。

四、Euler常数

$\gamma=\lim_{n \to \infty}(\sum_{k=1}^{n}{\frac{1}{k}}-\ln(n))= \int_{1}^{\infty}(\frac{1}{\lfloor x \rfloor}-\frac{1}{x})dx$

级数 $\sum_{k=1}^{\infty}{\frac{1}{k}}$ 发散，因为 $S_i= \sum_{2^{i-1}}^{2^i-1}{\frac{1}{k}}\ge\frac{1}{2}$ ，由比较判别法可证得。

积分缩放法可得 $\int_1^{n+1}\frac{1}{x}dx<\sum_{k=1}^{n}{\frac{1}{k}}<1+\int_1^{n}\frac{1}{x}dx$ ，得 $0<\gamma<1$

或由 $(1+\frac{1}{n})^n < e < (1+\frac{1}{n})^{n+1}$ 得到基本不等式 $\frac{1}{n+1}<\ln(\frac{n+1}{n})<\frac{1}{n}$ ，得 $\sum_{k=1}^{n}{\frac{1}{k}}-\ln(n)>\sum_{k=1}^{n}\ln{\frac{k+1}{k}}-\ln(n)=\ln(n+1)-\ln(n)>0$ ，也可得到有下界的结论。

$\gamma_{n+1}-\gamma_n=\frac{1}{n+1}-\ln(\frac{n+1}{n})<0$ ，单调递减。
从而极限存在。

在分析算法复杂度时常会用到 $O(\sum_{k=1}^{n}\frac{n}{k}) \sim O(n\ln(n))$

五、Gamma函数

阶乘在实数集上的延拓
$\Gamma(x)=\int_0^{\infty}t^{x-1}e^{-t}dt$

Eular的推导方法

首先发现了式子
$\lim{S_n}=\Bigl[\Bigl(\frac{2}{1}\Bigr)^n\frac{1}{n+1}\Bigr] \Bigl[\Bigl(\frac{3}{2}\Bigr)^n\frac{2}{n+2}\Bigr] \Bigl[\Bigl(\frac{4}{3}\Bigr)^n\frac{3}{n+3}\Bigr] \cdots = n! \tag{1.1}$
证明如下：
$\begin{align} \lim{S_n}=& \frac{1\cdot 2\cdot 3 \cdots m}{(1+n)(2+n)\cdots (m+n)}(m+1)^{n} \\ = & 1\cdot 2\cdot 3 \cdots n \cdot \frac{(n+1)(n+2)\cdots m}{(1+n)(2+n)\cdots m } \cdot \frac{(m+1)^{n}}{(m+1)(m+2)\cdots (m+n)} \\ = & n! \frac{(m+1)^{n}}{(m+1)(m+2)\cdots (m+n)} \\ = & n!\prod_{k=1}^{n} \frac{m+1}{m+k} \rightarrow n! \qquad (m\rightarrow \infty) \end{align}$

带入 $n=\frac{1}{2}$ 观察
$\frac{1}{2} ! = \sqrt{\frac{ 2\cdot4 }{ 3\cdot3 } \cdot \frac{ 4\cdot6 }{ 5\cdot5 }\cdot \frac{ 6\cdot8 }{ 7\cdot7 } \cdot \frac{ 8\cdot10 }{ 9\cdot9 } \cdots }= \frac{ \sqrt{ \pi } }{2}$
其中使用了Wallis公式： $\frac{2\cdot4}{3\cdot3} \cdot \frac{4\cdot6}{5\cdot5}\cdot \frac{6\cdot8}{7\cdot7} \cdot \frac{8\cdot10}{9\cdot9} \cdots = \frac{\pi}{4}$
因为Wallis公式处理了 $\int_0^1x^\frac{1}{2} (1-x)^\frac{1}{2}dx$ 。

处理积分式： $J(e,n) = \int_0^1 x^e(1-x)^ndx$
由分部积分，得
$J(e,n) = \frac{n}{e+1}J(e+1,n-1)=\frac{1\cdot2\cdots n}{(e+1)(e+2)\cdots(e+n+1)}$
整理为： $n! = (e+1)(e+2)\cdots(e+n+1)\int_0^1 x^e(1-x)^ndx$
由于e具有任意性，令 $e=\frac{f}{g},f\to1,g\to0$ ，且令 $x=t^{\frac{g}{f+g}}$ ， $dx=\frac{g}{f+g}t^{-\frac{f}{f+g}}dt$ ，带入上式
$\begin{split} n! &= \frac{(f+g)(f+2g)\cdots(f+(n+1)g)}{g^{n+1}}\int_0^1 x^\frac{f}{g}(1-x)^ndx \\ &= \frac{(f+g)(f+2g)\cdots(f+(n+1)g)}{g^{n+1}}\int_0^1 (1-t^{\frac{g}{f+g}})^n\frac{g}{f+g}dt \\ &= \frac{(f+g)(f+2g)\cdots(f+(n+1)g)}{(f+g)^{n+1}}\int_0^1 (\frac{1-t^{\frac{g}{f+g}}}{g/(f+g)})^ndt \end{split}$
对式子 $\lim_{x\to0}{S}=\frac{1-t^x}{x}$ 使用L'Hospital法则，得： $\lim_{x\to0}{S}=\lim_{x\to0}-t^x\ln{t}=-\ln{t}$ ，
从而有 $n!=\int_0^1(-lnx)^ndx$
做变化 $t=e^{-u}$ 得到 $n! = \int_0^{\infty} u^ne^{-u}du$ ，即：
$\Gamma(x) = \int_0^1 (-\ln t)^{x-1}dt = \int_0^{\infty} t^{x-1}e^{-t}dt$

Gamma分布
由 $\int_0^{\infty}\frac{t^{\alpha-1}e^{-t}}{\Gamma(\alpha)}dt=1$ 可定义Gamma分布为：
$Gamma(t|\alpha)=\frac{t^{\alpha-1}e^{-t}}{\Gamma(\alpha)}$
令 $t=\beta x$ ，得
$Gamma(x|\alpha,\beta)=\frac{\beta^{\alpha} x^{\alpha-1}e^{-\beta x}}{\Gamma(\alpha)}$

3、基本性质

类似Stirling公式： $\Gamma(x) \sim \sqrt{2\pi }e^{-x}x^{x-\frac{1}{2}}$

六、Poisson-Gamma duality

Poisson分布： $Poisson(X=k|\lambda)= \frac{\lambda^k e^{-\lambda}}{k!}$
Gamma分布： $Gamma(x=\lambda|\alpha=k+1)= \frac{\lambda^{k}e^{-\lambda}} {\Gamma(k+1)}=\frac{\lambda^k e^{-\lambda}}{k!}$ ，可看做Poisson分布在实数集上的延拓
Binomial分布： $B(k|n,p)=\binom{n}{k}p^k(1-p)^{n-k} \rightarrow Poisson(X=k|np=\lambda)$
Beta分布： $Beta(x|\alpha,\beta) = \frac{\Gamma(\alpha+\beta)}{\Gamma(\alpha)\Gamma(\beta)}x^{\alpha-1}(1-x)^{\beta-1}$ ，均匀分布的顺序统计量 $X_k$ 服从 $Beta(x|k,n-k+1)$
Poisson-Gamma duality性质： $Poisson(X\le k|\lambda)=\int_{\lambda}^{\infty}Gamma(x|\alpha=k+1)dx$

考虑 $B(n,p)$ 分布下成功的次数不超过k次的概率，等价于顺序统计量 $X_{k+1}$ 不成功的总概率，即
$B(X \le k|n,p) = \int_{p}^{1}Beta(t|k+1,n-k)dt = \frac{n!}{k!(n-k-1)!} \int_p^1 t^k(1-t)^{n-k-1} dt \tag{5.3.1}$
由于Binomial分布的极限形式为Poisson分布，Gamma分布又与Poisson分布相关，故而令 $t=\frac{\lambda}{n}$ ，带入上式
$\begin{split} B(X \le k|n,p) &= \frac{ (n-1)! }{ k!(n-k-1)! } \int_{np}^{n} \Big(\frac{ \lambda }{n}\Big)^k\Big(1-\frac{\lambda}{n}\Big)^{n-k-1} d\lambda \\ &=\int_{np}^{n}B(k|n-1,\frac{\lambda}{n})d\lambda \end{split}$
在 $np=\lambda, n\to\infty$ 条件下，得到
$\begin{split} Poisson(X\le k|\lambda)&=\int_{\lambda}^{\infty}Poisson(k|x)dx \\ &=\int_{\lambda}^{\infty}Gamma(x|\alpha=k+1)dx \\ &= \int_{\lambda}^{\infty}\frac{x^ke^{-x}}{k!}dx \end{split}$
令 $\lambda\to0$ 得 $1= \int_{0}^{\infty}\frac{x^ke^{-x}}{k!}dx$ ，即 $k!= \int_{0}^{\infty}x^ke^{-x}dx$
又得到了Gamma函数。可见由Poisson-Gamma duality性质可以更容易推到出Gamma函数。