原文地址： http://blog.huajh7.com/2013/03/06/variational-bayes/
前言
上世纪90年代，变分推断在概率模型上得到迅速发展，在贝叶斯框架下一般的变分法由Attias的两篇文章给出。Matthew J.Beal的博士论文《Variational Algorithms for Approximate Bayesian Inference》中有比较充分地论述，作者将其应用于隐马尔科夫模型，混合因子分析，线性动力学，图模型等。变分贝叶斯是一类用于贝叶斯估计和机器学习领域中近似计算复杂（intractable）积分的技术。它主要应用于复杂的统计模型中，这种模型一般包括三类变量：观测变量(observed variables, data)，未知参数（parameters）和潜变量（latent variables）。在贝叶斯推断中，参数和潜变量统称为不可观测变量(unobserved variables)。变分贝叶斯方法主要是两个目的:
近似不可观测变量的后验概率，以便通过这些变量作出统计推断。
对一个特定的模型，给出观测变量的边缘似然函数（或称为证据，evidence）的下界。主要用于模型的选择，认为模型的边缘似然值越高，则模型对数据拟合程度越好，该模型产生Data的概率也越高。
对于第一个目的，蒙特卡洛模拟，特别是用Gibbs取样的MCMC方法，可以近似计算复杂的后验分布，能很好地应用到贝叶斯统计推断。此方法通过大量的样本估计真实的后验，因而近似结果带有一定的随机性。与此不同的是，变分贝叶斯方法提供一种局部最优，但具有确定解的近似后验方法。
从某种角度看，变分贝叶斯可以看做是EM算法的扩展，因为它也是采用极大后验估计(MAP)，即用单个最有可能的参数值来代替完全贝叶斯估计。另外，变分贝叶斯也通过一组相互依然（mutually dependent）的等式进行不断的迭代来获得最优解。
问题描述
重新考虑一个问题：1）有一组观测数据DD，并且已知模型的形式，求参数与潜变量（或不可观测变量）Z={Z1,...,Zn}Z={Z1,...,Zn} 的后验分布: P(Z|D)P(Z|D)。
正如上文所描述的后验概率的形式通常是很复杂(Intractable)的,对于一种算法如果不能在多项式时间内求解，往往不是我们所考虑的。因而我们想能不能在误差允许的范围内，用更简单、容易理解(tractable)的数学形式Q(Z)来近似P(Z|D)P(Z|D),即 P(Z|D)≈Q(Z)P(Z|D)≈Q(Z)。
由此引出如下两个问题：
假设存在这样的Q(Z)Q(Z),那么如何度量Q(Z)Q(Z)与P(Z|D)P(Z|D)之间的差异性 (dissimilarity).
如何得到简单的Q(Z)Q(Z)?
对于问题一，幸运的是，我们不需要重新定义一个度量指标。在信息论中，已经存在描述两个随机分布之间距离的度量，即相对熵，或者称为Kullback-Leibler散度。
对于问题二，显然我们可以自主决定Q(Z)Q(Z)的分布，只要它足够简单，且与P(Z|D)P(Z|D)接近。然而不可能每次都手工给出一个与P(Z|D)P(Z|D)接近且简单的Q(Z)Q(Z)，其方法本身已经不具备可操作性。所以需要一种通用的形式帮助简化问题。那么数学形式复杂的原因是什么？在“模型的选择”部分，曾提到Occam’s razor，认为一个模型的参数个数越多，那么模型复杂的概率越大;此外，如果参数之间具有相互依赖关系(mutually dependent)，那么通常很难对参数的边缘概率精确求解。
幸运的是，统计物理学界很早就关注了高维概率函数与它的简单形式，并发展了平均场理论。简单讲就是：系统中个体的局部相互作用可以产生宏观层面较为稳定的行为。于是我们可以作出后验条件独立（posterior independence）的假设。即，∀i,p(Z|D)=p(Zi|D)p(Z−i|D)∀i,p(Z|D)=p(Zi|D)p(Z−i|D)
Kullback-Leibler散度
在统计学中，相对熵对应的是似然比的对数期望，相对熵 D(p||q)D(p||q) 度量当真实分布为 P而假定分布为Q时的无效性。
定义 两个概率密度函数为p(x)p(x)和q(x)q(x)之间的相对熵定义为
DKL(p||q)=∑xp(x)logp(x)q(x)DKL(p||q)=∑xp(x)logp(x)q(x).
KL散度有如下性质：
DKL(p||q)≠DKL(q||p)DKL(p||q)≠DKL(q||p);
DKL(p||q)≥0DKL(p||q)≥0 ，当且仅当p=qp=q时为零；
不满足三角不等式。
Q分布与P分布的KL散度为：
DKL(Q||P)=∑ZQ(Z)logQ(Z)P(Z|D)=∑ZQ(Z)logQ(Z)P(Z,D)+logP(D)
DKL(Q||P)=∑ZQ(Z)logQ(Z)P(Z|D)=∑ZQ(Z)logQ(Z)P(Z,D)+logP(D)
或者
logP(D)=DKL(Q||P)−∑ZQ(Z)logQ(Z)P(Z,D)=DKL(Q||P)+L(Q).
logP(D)=DKL(Q||P)−∑ZQ(Z)logQ(Z)P(Z,D)=DKL(Q||P)+L(Q).
由于对数证据logP(D)logP(D)被相应的Q所固定，为了使KL散度最小，则只要极大化L(Q)L(Q)。通过选择合适的Q，使L(Q)L(Q)便于计算和求极值。这样就可以得到后验P(Z|D)P(Z|D)的近似解析表达式和证据（log evidence）的下界L(Q)L(Q)，又称为变分自由能（variational free energy）：
L(Q)=∑ZQ(Z)logP(Z,D)−∑ZQ(Z)logQ(Z)=EQ[logP(Z,D)]+H(Q)
L(Q)=∑ZQ(Z)logP(Z,D)−∑ZQ(Z)logQ(Z)=EQ[logP(Z,D)]+H(Q)
vb1
平均场理论（Mean Field Method）
数学上说，平均场的适用范围只能是完全图，或者说系统结构是well-mixed，在这种情况下，系统中的任何一个个体以等可能接触其他个体。反观物理，平均场与其说是一种方法，不如说是一种思想。其实统计物理的研究目的就是期望对宏观的热力学现象给予合理的微观理论。物理学家坚信，即便不满足完全图的假设，但既然这种“局部”到“整体”的作用得以实现，那么个体之间的局部作用相较于“全局”的作用是可以忽略不计的。
根据平均场理论，变分分布Q(Z)可以通过参数和潜在变量的划分（partition）因式分解，比如将ZZ划分为Z1…ZMZ1…ZM
Q(Z)=∏i=1Mq(Zi|D)
Q(Z)=∏i=1Mq(Zi|D)
注意这里并非一个不可观测变量一个划分，而应该根据实际情况做决定。当然你也可以这么做，但是有时候，将几个潜变量放在一起会更容易处理。
平均场方法的合理性
在量子多体问题中，用一个（单体）有效场来代替电子所受到的其他电子的库仑相互作用。这个有效场包含所有其他电受到的其他电子的库仑相互作用。这个有效场包含了所有其他电子对该电子的相互作用。利用有效场取代电子之间的库仑相互作用之后，每一个电子在一个有效场中运动，电子与电子之间的运动是独立的(除了需要考虑泡利不相容原理)，原来的多体问题转化为单体问题。
同样在变分分布Q(Z)这个系统中，我们也可以将每一个潜变量划分看成是一个单体，其他划分对其的影响都可以用一个看做是其自身的作用。采用的办法是迭代(Iterative VB(IVB) algorithm)。这是由于当变分自由能取得最大值的时候，划分ZiZi与它的互斥集Z−iZ−i(或者更进一步，马尔科夫毯(Markov blanket), mb(Zi))mb(Zi))具有一个简单的关系：
Q(Zi)∝1Cexp⟨lnP(Zi,Z−i,D)⟩Q(Z−i)orQ(mb(Zi))
Q(Zi)∝1Cexp⟨lnP(Zi,Z−i,D)⟩Q(Z−i)orQ(mb(Zi))
（为保持文章的连贯性，此处先不证明，下文将详细说明）
于是，对于某个划分ZiZi,我们可以先保持其他划分Z−iZ−i不变，然后用以上关系式更新ZiZi。相同步骤应用于其他划分的更新，使得每个划分之间充分相互作用，最终达到稳定值。
具体更新边缘概率（VB-marginal）步骤如下：
初始化Q(0)(Zi)Q(0)(Zi)，可随机取；
在第k步，计算Z−iZ−i的边缘密度Qk∝exp∫Z∗iQk−1logP(Zi,Z−i,D)dZiQk∝exp∫Zi∗Qk−1logP(Zi,Z−i,D)dZi
计算ZiZi的边缘密度Qk∝exp∫Z∗−iQklogP(Zi,Z−i,D)dZ−iQk∝exp∫Z−i∗QklogP(Zi,Z−i,D)dZ−i
理论上Q∞Q∞将会收敛，则反复执行(2), (3)直到Q(Zi)Q(Zi),Q(Z−i)Q(Z−i)稳定，或稳定在某个小范围内。
最后，得 Q(Z)=Q(Zi|D)Q(Z−i|D)Q(Z)=Q(Zi|D)Q(Z−i|D)
平均场估计下边缘概率的无意义性 (VB-marginals)
注意到Q(Z)估计的是联合概率密度，而对于每一个Qi(Zi)Qi(Zi)，其与真实的边缘概率密度Pi(Zi)Pi(Zi)的差别可能是很大的。不应该用Qi(Zi)Qi(Zi)来估计真实的边缘密度，比如在一个贝叶斯网络中，你不应该用它来推测某个节点的状态。而这其实是很糟糕的，相比于其他能够使用节点状态信息来进行局部推测的算法，变分贝叶斯方法更不利于调试。
比如一个标准的高斯联合分布P(μ,x)P(μ,x)和最优的平均场高斯估计Q(μ,x)Q(μ,x)。Q选择了在它自己作用域中的高斯分布，因而变得很窄。此时边缘密度Qx(x)Qx(x)变得非常小，完全与Px(x)Px(x)不同。
vb2
泛函的概念
上文已经提到我们要找到一个更加简单的函数D(Z)D(Z)来近似P(Z|D)P(Z|D)，同时问题转化为求解证据logP(Z)logP(Z)的下界L(Q)L(Q)，或者L(Q(Z))L(Q(Z))。应该注意到L(Q)L(Q)并非普通的函数，而是以整个函数为自变量的函数，这便是泛函。我们先介绍一下什么是泛函，以及泛函取得极值的必要条件。
泛函
设对于(某一函数集合内的)任意一个函数y(x)y(x)，有另一个数J[y]J[y]与之对应，则称J[y]J[y]为y(x)y(x)的泛函。泛函可以看成是函数概念的推广。 这里的函数集合，即泛函的定义域，通常要求y(x)y(x) 满足一定的边界条件，并且具有连续的二阶导数．这样的y(x)y(x)称为可取函数。
泛函不同于复合函数，
例如g=g(f(x))g=g(f(x)); 对于后者，给定一个xx值，仍然是有一个gg值与之对应； 对于前者，则必须给出某一区间上的函数y(x)y(x)，才能得到一个泛函值J[y]J[y]。(定义在同一区间上的)函数不同，泛函值当然不同， 为了强调泛函值J[y]J[y]与函数y(x)y(x)之间的依赖关系，常常又把函数y(x)y(x)称为变量函数。
泛函的形式多种多样，通常可以积分形式：J[y]=∫x1x0F(x,y,y′)dxJ[y]=∫x0x1F(x,y,y′)dx
泛函取极值的必要条件
泛函的极值
“当变量函数为y(x)y(x)时，泛函J[y]J[y]取极大值”的含义就是：对于极值函数y(x)y(x)及其“附近”的变量函数y(x)+δy(x)y(x)+δy(x)，恒有J[y+δy]≤J[y]J[y+δy]≤J[y];
所谓函数y(x)+δy(x)y(x)+δy(x)在另一个函数y(x)y(x)的“附近”，指的是：
|δy(x)|<ε|δy(x)|<ε;
有时还要求|(δy)′(x)|<ε|(δy)′(x)|<ε.
这里的δy(x)δy(x)称为函数y(x)y(x)的变分。
Euler–Lagrange方程
可以仿造函数极值必要条件的导出办法，导出泛函取极值的必要条件，这里不做严格的证明，直接给出。 泛函J[y]J[y]取到极大值的必要条件是一级变分δJ[y]δJ[y]为0，其微分形式一般为二阶常微分方程，即Euler-Largange方程：
∂F∂y−ddx∂F∂y′=0
∂F∂y−ddx∂F∂y′=0
泛函的条件极值
在约束条件 下求函数J[y]J[y]的极值，可以引入Largange乘子λλ，从而定义一个新的泛函， J~[y]=J[y]−λJ0[y]J~[y]=J[y]−λJ0[y]。仍将δyδy看成是独立的，则泛函J~[y]J~[y]在边界条件下取极值的必要条件就是，
(∂∂y−ddx∂∂y′)(F−λG)=0
(∂∂y−ddx∂∂y′)(F−λG)=0
问题求解
对于L(Q(Z))=EQ(Z)[lnP(Z,D)]+H(Q(Z))L(Q(Z))=EQ(Z)[lnP(Z,D)]+H(Q(Z))，将右式第一项定义为能量(Energy)，第二项看做是信息熵(Shannon entropy)。我们只考虑自然对数的形式，因为对于任何底数的对数总是可以通过换底公式将其写成自然对数与一个常量的乘积形式。另外根据平均场假设可以得到如下积分形式，
L(Q(Z))=∫(∏iQi(Zi))lnP(Z,D)dZ−∫(∏kQk(Zk))∑ilnQi(Zi)dZ
L(Q(Z))=∫(∏iQi(Zi))lnP(Z,D)dZ−∫(∏kQk(Zk))∑ilnQi(Zi)dZ
其中Q(Z)=∏iQi(Zi)Q(Z)=∏iQi(Zi)，且满足 ∀i.∫Qi(Zi)dZi=1∀i.∫Qi(Zi)dZi=1
考虑划分Z={Zi,Z−i}Z={Zi,Z−i}，其中Z−i=Z∖ZiZ−i=Z∖Zi，先考虑能量项(Energy)（第一项），
EQ(Z)[lnP(Z,D)]=∫(∏iQi(Zi))lnP(Z,D)dZ=∫Qi(Zi)dZi∫Q−i(Z−i)lnP(Z,D)dZ−i=∫Qi(Zi)⟨lnP(Z,D)⟩Q−i(Z−i)dZi=∫Qi(Zi)lnexp⟨lnP(Z,D)⟩Q−i(Z−i)dZi=∫Qi(Zi)lnQ∗i(Zi)dZi+lnC
EQ(Z)[lnP(Z,D)]=∫(∏iQi(Zi))lnP(Z,D)dZ=∫Qi(Zi)dZi∫Q−i(Z−i)lnP(Z,D)dZ−i=∫Qi(Zi)⟨lnP(Z,D)⟩Q−i(Z−i)dZi=∫Qi(Zi)lnexp⟨lnP(Z,D)⟩Q−i(Z−i)dZi=∫Qi(Zi)lnQi∗(Zi)dZi+lnC
其中定义Q∗i(Zi)=1Cexp⟨lnP(Z,D)⟩Q−i(Z−i)Qi∗(Zi)=1Cexp⟨lnP(Z,D)⟩Q−i(Z−i)，CC为的归一化常数。再考虑熵量(entropy)（第二项），
H(Q(Z))=−∑i∫(∏kQk(Zk))lnQi(Zi)dZ=−∑i∫∫Qi(Zi)Q−i(Z−i)lnQi(ZidZidZ−i=−∑i⟨∫Qi(Zi)lnQi(Zi)dZi⟩Q−i(Z−i)=−∑i∫Qi(Zi)lnQi(Zi)dZi
H(Q(Z))=−∑i∫(∏kQk(Zk))lnQi(Zi)dZ=−∑i∫∫Qi(Zi)Q−i(Z−i)lnQi(ZidZidZ−i=−∑i⟨∫Qi(Zi)lnQi(Zi)dZi⟩Q−i(Z−i)=−∑i∫Qi(Zi)lnQi(Zi)dZi
此时得到泛函，
L(Q(Z))=∫Qi(Zi)lnQ∗i(Zi)dZi−∑i∫Qi(Zi)lnQi(Zi)dZi+lnC=(∫Qi(Zi)lnQ∗i(Zi)dZi−∫Qi(Zi)lnQi(Zi)dZi)−∑k≠i∫Qk(Zk)lnQk(Zk)dZk+lnC=∫Qi(Zi)lnQ∗i(Zi)Qi(Zi)dZi−∑k≠i∫Qk(Zk)lnQk(Zk)dZk+lnC=−DKL(Qi(Zi)||Q∗i(Zi))+H[Q−i(Z−i)]+lnC
L(Q(Z))=∫Qi(Zi)lnQi∗(Zi)dZi−∑i∫Qi(Zi)lnQi(Zi)dZi+lnC=(∫Qi(Zi)lnQi∗(Zi)dZi−∫Qi(Zi)lnQi(Zi)dZi)−∑k≠i∫Qk(Zk)lnQk(Zk)dZk+lnC=∫Qi(Zi)lnQi∗(Zi)Qi(Zi)dZi−∑k≠i∫Qk(Zk)lnQk(Zk)dZk+lnC=−DKL(Qi(Zi)||Qi∗(Zi))+H[Q−i(Z−i)]+lnC
注意到L(Q(Z))L(Q(Z)) 并非只有一个等式，如果不可观测变量有M个划分。 那么将有M个方程。 为了使得L(Q(Z))L(Q(Z))达到最大值, 同时注意到约束条件, 根据泛函求条件极值的必要条件, 得,
∀i.∂∂Qi(Zi){−DKL[Qi(Zi)||Q∗i(Zi)]−λi(∫Qi(Zi)dZi−1)}:=0
∀i.∂∂Qi(Zi){−DKL[Qi(Zi)||Qi∗(Zi)]−λi(∫Qi(Zi)dZi−1)}:=0
直接求解将得到Gibbs分布，略显复杂;实际上，注意到KL散度，我们可以直接得到KL散度等于0的时候，L(D)L(D)达到最大值，最终得到
Qi(Zi)=Q∗i(Zi)=1Cexp⟨lnP(Zi,Z−i,D)⟩Q−i(Z−i)
Qi(Zi)=Qi∗(Zi)=1Cexp⟨lnP(Zi,Z−i,D)⟩Q−i(Z−i)
C为归一化常数C=∫exp⟨ln(Zi,Z−i,D)⟩Q−i(Z−i)dZ−iC=∫exp⟨ln(Zi,Z−i,D)⟩Q−i(Z−i)dZ−i , Q(Zi)Q(Zi)为联合概率函数在除ZiZi本身外的其他划分下的对数期望。又可以写为 lnQi(Zi)=⟨lnP(Zi,Z−i,D)⟩Q−i(Z−i)+constlnQi(Zi)=⟨lnP(Zi,Z−i,D)⟩Q−i(Z−i)+const.
参考文献
[1] Smídl, Václav, and Anthony Quinn. The variational Bayes method in signal processing. Springer, 2006.
[2] Beal, Matthew James. Variational algorithms for approximate Bayesian inference. Diss. University of London, 2003.
[3] Fox, Charles W., and Stephen J. Roberts. “A tutorial on variational Bayesian inference.” Artificial Intelligence Review 38.2 (2012): 85-95.
[4] Attias, Hagai. “Inferring parameters and structure of latent variable models by variational Bayes.” Proceedings of the Fifteenth conference on Uncertainty in artificial intelligence. Morgan Kaufmann Publishers Inc., 1999.
[5] Attias, Hagai. “A variational Bayesian framework for graphical models.”Advances in neural information processing systems 12.1-2 (2000): 209-215.
...