马尔可夫随机场建模在图像分析中的应用（读书笔记）

1.MRF-Gibbs等价定理指出，MRF联合分布（joint distribution）是一个吉布斯分布（Gibbs distribution），而后者可以采用简单的形式。针对统计图像分析，这不仅带给我们数学上的发现，也为我们提供了数学上的易处理工具（Grenander 1983；Geman and Geman 1984）。

2.MRF理论告诉我们如何对上下文依赖模式的先验概率建模，例如纹理和对象特征。一个特定的MRF模型通过把模式与更大的概率相关联来支持自身的模式类，而不是其它模式类。MRF理论通常将统计决策和估计理论相结合，以便可以按照已建立的最优化原则描述目标函数（objective functions）。

3.依据规则性和连续性，我们将视觉标记问题归类为以下的四类之一：
第一类（LP1）：使用连续标记的规则位置
第二类（LP2）：使用离散标记的规则位置
第三类（LP3）：使用离散标记的不规则位置
第四类（LP4）：使用连续标记的不规则位置

4.1.2.2 能量函数的作用（Role of Energy Functions）
在基于最小化的视觉中，能量函数的作用是双重的。（1）定量的测量解决方案的全局最优解（2）为最小解决方案的搜索作指导。作为定量的测量，能量函数定义最小解决方案作为全局最小解。基于这点，公式化能量函数就显得很重要。“正确的解决方案”即最小化能量函数，我们称之为公式化的正确性。
为了理解最优化的路径，我们不要将公式中问题和搜索中的问题混合。区分这两种问题可以帮助我们纠正模型中的错误。例如，如果一个最优化的处理过程的输出（假设处理过程是正确的）不是我们所期望的，有两种可能的原因：（1）公式化的目标函数并没有正确的对真实物体进行建模（2）输出是一个低质量的局部最小值。在对模型进行扩展之前，我们必须确定问题是出自于哪一个原因。
能量函数对搜索的指导作用可以是完全的，也可以是不完全的。例如，对实体进行最小化时，当能量函数是平滑的的凸函数，它的全局最小值等于局部极小值，能量函数的梯度能够提供充足的信息，该信息用于搜索全局解。在这种情况下，搜索的指导作用是完全的。尽管如此，当问题是非凸的时，将不存在一般的方法有效的利用能量函数指导检索，在这种情况下，能量函数的指导作用将会受到限制。
在特定情况下，同时公式化能量函数和搜索是有利的。即在公式化能量函数的同时适当的促进搜索。Blake and Zisserman 在1987写的基于累积非凸（GNC: graduated non-convexity）的文章就是就这点而言的。在那篇文章中，伴随着一个基于梯度近似全局最优解的过程，能量函数逐步的从一个凸的形式转变为目标形式。
在真实空间中，局部最小化是在最优化中最成熟的领域，存在很多正式的方法解决局部最小化问题，但对于组合和全局最小化却没有。对于后一种情况，启发法成为一种重要的必不可少的要素在实际应用中。在利用启发式方式寻找全局最优解时，需要附加假设条件。例如有界模型（Baird 1985; Breuel 1992）。该模型假设在某一给定的阈值（threshold）下，测量误差是有上界的（在给定的阈值下，假定误差是均匀分布的）。假设是否是有效的取决于阈值。当阈值无穷大时，这个假设显然是正确的。但是，在实践中，阈值总是被设定为一个定值，该值小于完全验证有界错误假设所需要的值。值越小，效率越高，但是算法的普遍性也将减少。
在假设—验证方法中，使用有效的算法形成假定的算法，比如霍夫变换（Hough 1962; Duda and Hart 1972） ，解释树搜索（interpretation tree search） （Grimson and Lozano-Prez 1987） ，几何散列法 （Lamdan and Wolfson 1988） ，算法的有效性来自快速散列（fast elimination）法，解是不可行的，或者通过利用启发法对解空间进行修剪。通过这种方法，小部分候选解能快速的挑选出来，并可以进行完全的验证和评估，比如通过使用能量函数（Energy function）。此时能量函数仅用于估计，而不是作为搜查的指导。
我们注意到估计中采用正式的方法有很大的优势，在搜索中采用启发式有很大的优势。对于一个指定的系统，一个好的策略指的是使用启发法快速找到小部分的候补解决方法。
使用能量函数评估候补解，从而找到最优解。