引言

基于玻尔兹曼机(三)梯度求解(基于平均场理论的变分推断)的思路继续求解${\Lambda }_3$的梯度。

${\Lambda }_3$梯度求解

对${\Lambda }_3$进行化简。其就是一个熵的形式：
$${\Lambda }_3=-\sum _{h^{(i)}}\mathcal{Q}(h^{(i)}\mid v^{(i)};\varphi )\log \mathcal{Q}(h^{(i)}\mid v^{(i)};\varphi )$$
由于平均场假设作为条件，将上式进行展开：
这里暂时先将负号带回去了~
$$\begin{array}{rl}{\Lambda }_3& =\sum _{h^{(i)}}\left\{\prod _{j=1}^{\mathcal{P}}\mathcal{Q}(h_j^{(i)}\mid v^{(i)};\varphi )\log \prod _{j=1}^{\mathcal{P}}\left[\frac{1}{\mathcal{Q}(h_j^{(i)}\mid v^{(i)};\varphi )}\right]\right\}\\ & =\sum _{h^{(i)}}\left\{\prod _{j=1}^{\mathcal{P}}\mathcal{Q}(h_j^{(i)}\mid v^{(i)};\varphi )\sum _{j=1}^{\mathcal{P}}\log \left[\frac{1}{\mathcal{Q}(h_j^{(i)}\mid v^{(i)};\varphi )}\right]\right\}\end{array}$$
继续将${\sum }_{h^{(i)}}={\sum }_{h_1^{(i)},h_2^{(i)},\cdots ,h_{\mathcal{P}}^{(i)}}$展开，并与相关项进行归纳：
$${\Lambda }_3=\sum _{j=1}^{\mathcal{P}}\sum _{h_j^{(i)}}\mathcal{Q}(h_j^{(i)}\mid v^{(i)};\varphi )\cdot \log \left[\frac{1}{\mathcal{Q}(h_j^{(i)}\mid v^{(i)};\varphi )}\right]$$
继续观察${\sum }_{h_j^{(i)}}\mathcal{Q}(h_j^{(i)}\mid v^{(i)};\varphi )\cdot \log \left[\frac{1}{\mathcal{Q}(h_j^{(i)}\mid v^{(i)};\varphi )}\right]$，基于$h_j^{(i)}$的伯努利分布，该式可表示为如下形式：
$$\begin{array}{rl}& \mathcal{Q}(h_j^{(i)}=1\mid v^{(i)};\varphi )\cdot log\left[\frac{1}{\mathcal{Q}(h_j^{(i)}=1\mid v^{(i)};\varphi )}\right]+\mathcal{Q}(h_j^{(i)}=0\mid v^{(i)};\varphi )\cdot log\left[\frac{1}{\mathcal{Q}(h_j^{(i)}=0\mid v^{(i)};\varphi )}\right]\\ & ={\varphi }_j\cdot \log \left[\frac{1}{{\varphi }_j}\right]+(1-{\varphi }_j)\log \left[\frac{1}{1-{\varphi }_j}\right]\end{array}$$
至此，${\Lambda }_3$可表示为：
$${\Lambda }_3=\sum _{j=1}^{\mathcal{P}}\left\{{\varphi }_j\cdot \log \left[\frac{1}{{\varphi }_j}\right]+(1-{\varphi }_j)\log \left[\frac{1}{1-{\varphi }_j}\right]\right\}$$

求解最优参数${\hat{\varphi }}_j$

至此，${\Lambda }_1,{\Lambda }_2,{\Lambda }_3$全部化简完毕，将这三项分别对${\varphi }_j$求偏导。具体结果如下：
$$\{\begin{array}{l}\frac{\partial }{\partial {\varphi }_j}\left[{\sum }_{i=1}^{\mathcal{D}}{\sum }_{l=1}^{\mathcal{P}}{\varphi }_l\cdot v_i^{(i)}\cdot {\mathcal{W}}_{il}\right]={\sum }_{i=1}^{\mathcal{D}}{v}_i^{(i)}\cdot {\mathcal{W}}_{ij}\\ \frac{\partial }{\partial {\varphi }_j}\left[{\sum }_{j=1}^{\mathcal{P}}{\sum }_{l\ne j}^{\mathcal{P}}{\varphi }_i\cdot {\varphi }_l\cdot {\mathcal{J}}_{il}\right]={\sum }_{l\ne j}^{\mathcal{P}}{\varphi }_l\cdot {\mathcal{J}}_{il}\\ \frac{\partial }{\partial {\varphi }_j}[{\sum }_{j=1}^{\mathcal{P}}\left\{{\varphi }_j\cdot \log \left[\frac{1}{{\varphi }_j}\right]+(1-{\varphi }_j)\log \left[\frac{1}{1-{\varphi }_j}\right]\right\}]=-\log \frac{{\varphi }_j}{1-{\varphi }_j}\end{array}$$
令三项之和为0，求解${\varphi }_j$：
$$\frac{\partial }{\partial {\varphi }_j}[{\Lambda }_1+{\Lambda }_2+{\Lambda }_3]\triangleq 0\iff \sum _{i=1}^{\mathcal{D}}{v}_i^{(i)}\cdot {\mathcal{W}}_{ij}+\sum _{l\ne j}^{\mathcal{P}}{\varphi }_l\cdot {\mathcal{J}}_{il}-\log \frac{{\varphi }_j}{1-{\varphi }_j}=0$$
因而有：
$$\begin{gathered} {\varphi }_j\left[1+\exp \left(\sum _{i=1}^{\mathcal{D}}{v}_i^{(i)}\cdot {\mathcal{W}}_{ij}+\sum _{l\ne j}^{\mathcal{P}}{\varphi }_l\cdot {\mathcal{J}}_{il}\right)\right]=\exp \left(\sum _{i=1}^{\mathcal{D}}{v}_i^{(i)}\cdot {\mathcal{W}}_{ij}+\sum _{l\ne j}^{\mathcal{P}}{\varphi }_l\cdot {\mathcal{J}}_{il}\right) \\ \begin{array}{rl}\Rightarrow {\varphi }_j& =\frac{1}{1+\exp \left({\sum }_{i=1}^{\mathcal{D}}{v}_i^{(i)}\cdot {\mathcal{W}}_{ij}+{\sum }_{l\ne j}^{\mathcal{P}}{\varphi }_l\cdot {\mathcal{J}}_{il}\right)}\\ & =\text{Sigmoid}\left[\sum _{i=1}^{\mathcal{D}}{v}_i^{(i)}\cdot {\mathcal{W}}_{ij}+\sum _{l\ne j}^{\mathcal{P}}{\varphi }_l\cdot {\mathcal{J}}_{il}\right]\end{array} \end{gathered}$$
很明显，这是一个迭代方程——用非${\varphi }_j$的其他结果的线性运算${\sum }_{l\ne j}^{\mathcal{P}}$对${\varphi }_j$进行表示。并且它是一个不动点方程。它的具体求解方式是：在初始状态下给定随机结果，固定住${\varphi }_j$之外的其他项，求解当前迭代步骤下${\varphi }_j$的最优解；以此类推，直到所有的${\varphi }_j(j=1,2,\cdots ,\mathcal{P})$均固定一遍，此时一次迭代结束，继续迭代下去，基于不动点方程的性质，${\varphi }_j(j=1,2,\cdots ,\mathcal{P})$均会收敛至某一结果，至此ϕ={ϕ1,ϕ2,⋯,ϕP}\phi = \{\phi_1,\phi_2,\cdots,\phi_{\mathcal P}\}ϕ={ϕ1​,ϕ2​,⋯,ϕP​}可以被近似出来，最终求解$\mathcal{Q}(h^{(i)}\mid v^{(i)};\varphi )$的分布结果，并最终替代${\mathcal{P}}_{model}(h^{(i)}\mid v^{(i)};\theta )$对模型参数的梯度进行描述。
这实际上就是‘坐标上升思想’。

返回要求解的模型参数梯度：
$$\{\begin{array}{l}{\nabla }_{\mathcal{W}}=\eta \left({\mathbb{E}}_{{\mathcal{P}}_{data}}\left[v^{(i)}(h^{(i)}{)}^T\right]-{\mathbb{E}}_{{\mathcal{P}}_{model}}\left[v^{(i)}(h^{(i)}{)}^T\right]\right)\\ {\mathcal{P}}_{data}\Rightarrow {\mathcal{P}}_{data}(v^{(i)}\in \mathcal{V})\cdot {\mathcal{P}}_{model}(h^{(i)}\mid v^{(i)})\\ {\mathcal{P}}_{model}={\mathcal{P}}_{model}(v^{(i)},h^{(i)})\end{array}$$
此时关于隐变量的后验概率${\mathcal{P}}_{model}$并不需要使用MCMC采样方法进行求解，通过变分推断的方式也可以进行求解。
关于负相的处理方式，依然需要使用采样方法，随着技术的迭代，采样方式也得到了更新，例如对比散度方法，同样可以加快采样速度。

至此，关于玻尔兹曼机的介绍到此结束。

相关参考：
(系列二十八)玻尔兹曼机7-平均场推断3