【文献阅读】

Title

Near-Optimal Sensor Placements in Gaussian Processes.高斯过程中接近最优的传感器放置

Autor information

引用格式：Guestrin, Carlos, Andreas Krause, and Ajit Paul Singh. “Near-optimal sensor placements in gaussian processes.” Proceedings of the 22nd international conference on Machine learning. 2005.pdf链接

Full text

Abtract

在监测空间现象时，为传感器选择最佳位置是一项基本任务。 为了避免强假设（例如固定感应半径）并解决噪声测量，高斯过程 (GP) 通常用于对潜在现象建模。 一种常用的放置策略是选择相对于 GP 模型具有最高熵的位置。 不幸的是，这个标准是间接的，因为没有考虑未感知位置的预测质量，因此经常选择次优位置。 在本文中，我们提出了一种互信息准则，该准则可以选择最能减少未感知位置不确定性的传感器位置。 我们首先表明，选择一组 k 个使互信息最大化的传感器是 NP 完全的。 通过利用互信息的子模块性，我们提出了一种多项式时间算法，该算法可保证在最大值的 (1 − 1/e) 范围内放置。 该算法被扩展以利用高斯过程中的局部结构，显着提高了性能。 最后，我们通过对两个真实世界数据集的广泛实验验证表明，我们的算法选择的传感器放置可以导致明显更好的预测。

Introduction

当使用有限数量的传感设备监测空间现象时，例如图 1(a) 所示的室内环境温度，决定传感器的放置位置是一项基本任务。 一种方法是假设传感器具有固定的感应半径，并将任务作为美术馆问题的一个实例来解决（参见，（Hochbaum & Maas，1985 年；Gonzalez-Banos & Latombe，2001 年））。 然而，在实践中，这个假设太强了； 传感器对附近环境进行嘈杂测量，并且这个“传感区域”通常不是规则的圆盘，如图 1(b) 中的温度相关性所示。 此外，请注意相关性可以是正相关也可以是负相关，如图 1© 所示。 通常，相关性可能太弱而无法从单个传感器进行预测，这表明需要组合来自多个传感器的数据以获得准确的预测。
空间统计的另一种方法 (Cressie, 1991) 做出较弱的假设，是使用试点部署或专家知识来学习现象的高斯过程 (GP) 模型，线性回归的非参数泛化可以表示 感测场的不确定性。 然后可以使用学习到的 GP 模型来预测将传感器放置在特定位置的效果，从而优化它们的位置。 当然，这个初始 GP 是一个粗略的模型，传感器放置策略可以看作是主动学习算法的内部循环步骤 (MacKay, 2003)。
典型的传感器放置技术贪婪地在现象的不确定性最高的地方添加传感器，即 GP 的最高熵位置（Cressie，1991）。 不幸的是，这个标准有一个重大缺陷：熵是一个间接标准，没有考虑所选位置的预测质量。 最高熵集，即对彼此的测量最不确定的传感器，通常以传感器位置彼此尽可能远为特征。 因此，熵准则倾向于沿着感兴趣区域的边界放置传感器（Ramakrishnan 等人，2005 年），例如图 2©。 由于传感器通常会提供有关其周围区域的信息，因此边界上的传感器会“浪费”感测到的信息。
在本文中，我们通过提出一种新的优化标准（互信息）来解决这个问题，该标准旨在找到最能提供未感知位置信息的传感器放置。 我们的优化标准直接衡量传感器放置对 GP 后验不确定性的影响。 我们首先证明最大化互信息是一个 NP 完全问题。 然后，通过利用互信息是子模函数这一事实（Nemhauser 等人，1978），我们设计了一种近似算法，保证在多项式时间内对最佳传感器位置集进行常数因子近似。 据我们所知，其他基于 GP 的传感器放置方法不存在此类保证。 虽然是多项式，但我们的基本算法的复杂度相对较高——O(kn4) 从 n 个可能的传感器位置中选择 k 个。 如果我们修剪低协方差条目，利用传感区域的局部性，我们可以将复杂性降低到 O(kn)。

启发

1. submodularity
2. MSE最小化问题转化为集合函数的最大化
3. non-submodularity 的贪心法下界。