状态空间模型中参数的贝叶斯估计

(参数估计所有内容)

对于模型中的未知参数 $\theta \in {\mathbb{R}}^d$，贝叶斯方法通常将其建模为先验分布已知的随机变量，且其先验分布表示为 $\mathbf{p}(\mathbf{\theta })$。参数全部已知时，系统状态空间模型可表示为:
可由贝叶斯公式直接计算当前时刻的完全先验分布，计算式为：
式中，相关分布的计算式为：

若只需要估计参数向量 $\mathbf{\theta }$，贝叶斯方法通常对该状态量求积分，得到参数的边缘后验分布：
但是这个公式的计算维度过大，尤其是在获取的量测量之后。

边缘后验分布的表达式为：
该式子直接给出了计算上述分布的递归算法。在计算过程中，通常可以假设先验分布 $\mathbf{p}(\mathbf{\theta })$，故其获取并不苦难。难点在于边缘似然分布 $\mathbf{p}({\mathbf{y}}_{1:\mathbf{T}}|\mathbf{\theta })$ 的计算。

可对边缘似然分布进行状态分解，进而可以进行递归计算：
上式所涉及的累乘因式表达式为：
式中，$\mathbf{p}({\mathbf{y}}_{\mathbf{k}}|{\mathbf{x}}_{\mathbf{k}},\mathbf{\theta }),\mathbf{p}({\mathbf{x}}_{\mathbf{k}}|{\mathbf{y}}_{1:\mathbf{k}-1},\mathbf{\theta })$ 分别为量测模型和预测分布，二者的表达式为：

在参数估计中，通常还呦另一种更为方便的计算方法，
即：非归一化负对数后验分布或能量函，来代替边缘似然估计概率或边缘后验分布。

能量函数：
且有：

能量函数的递归形式：
1). 计算
2). 对每一步 $\mathbf{k}=1,2,\cdot \cdot \cdot ,\mathbf{T}$，计算：