chpt.2 熵和温度（4）补充

作者: 有限与微小的面包 | 来源:发表于2019-12-29 17:58 被阅读0次

chpt.2 熵和温度（4）补充
chpt.2 熵和温度（4）
chpt.2 熵和温度（1）
chpt.2 熵和温度（2）
chpt.2 熵和温度（3）
02 决策树 - 初识与构建
一文理解机器学习中的各种熵
信息熵相关的定义定理
泥沙沉积过程是熵增还是熵减
老子的两句话

作为第二章的结尾，我想补充一点关于熵的定义原由的解释；具体一点讲就是，既然熵是对孤立系统所有可获取态的衡量，为何我们不从一开始就直接将系统的简并度（所有可获取态的数目）定义为熵，而是简并度的对数？事实上，使用对数来表示一个庞大的数字不仅简化计算，并且还有其他一些优势：

$\bullet$ 对数具有一个特别重要的性质：

$\log (ab) = \log(a) + \log(b)$ ， $a, b \neq 0$

现在考虑一个含有两个子系统的合系统，子系统的熵分别为 $\sigma_1$ 和 $\sigma_2$ 。

从chpt.2 熵和温度（2）中我们已经了解过，合系统在任一位形的简并度（重性）等于两个子系统各自简并度的乘积：

$g(N,U) = g_1(N_1,U_1)g_2(N_2,U - U_1)$

根据熵的定义，我们发现，对数的性质很自然地被使用了

$\log g = \log g_1 + \log g_2$

所以

$\sigma = \sigma_1 + \sigma_2$

正是由于对数的性质，熵才具有可加性：合系统的熵等于独立子系统的熵之代数总和。

$\bullet$ 熵对孤立系统的能量精度（比如 $\delta U$ ）完全免疫。根据测不准原理，系统的能量是存在一定偏差值的。但你可以发现，在我写的之前所有内容中，没有一点涉及到了能量的测不准性。原因当然是，能量精度对于 $N$ 非常大的系统而言，是可以被忽略的。我们当然可以将能量的偏差值给考虑进来，但它对最后结果的影响微乎其微。

定义一个平滑的分布函数 $\mathscr{D}(U)$ ，它表示了每单位能量范围所具有的可获取态个数。如果系统的单位能量偏差为 $\delta U$ ，那么

$g(U) = \mathscr{D}(U)\delta U$

并且我们将其中心考虑为坐落于合系统能量 $U$ 处。

于是，系统的熵可以写成：

$\sigma(U) = \log \mathscr{D}(U)\delta U = \log \mathscr{D}(U) + \log \delta U$

通常，如果系统有 $N$ 个自旋，态的总数我们知道等于 $2^N$ ；总能量则是自旋总数 $N$ 乘以每一个自旋携带的平均能量 $\varepsilon$ 。所以，

$\mathscr{D}(U) \sim \frac{2^N}{\varepsilon N}$

如果我们将其代入系统熵的表达式，可以得到

$\sigma(U) = N\log 2 - \log \varepsilon N + \log \delta U$

你应该知道对数函数在整个实域的变化。在变量逐渐增大过程中，对数函数值的增长率是在缓慢减小的；最后，当变量趋近无穷，函数值就基本保持定值。对数函数的这一行为决定了上面表达式中的第一项将占据主导地位。尤其是当 $N$ 具有阿伏伽德罗常数的数量级时（ $\sim 10^{23}$ ），后两项基本可以被忽略。