001

关键词：神经网络 连续条件随机场 细粒度
摘要：传统的CCRF在考虑到区域之间的关系，面对密集图时将变得不切实际。为解决该问题，提出了一种基于神将网络的CCRF模型，该模型将CCRF定义为端到端的神经网络框架，可以降低模型训练的复杂性并提高整体性能。通过引入LSTM学习每个区域输入到输出的非线性映射，使用SDAE用于区域之间成对建模，从而将CCRF与NN集成。
本文主要贡献：
传统的CCRF 将没面临复杂的梯度推到问题和大规模数据集容量问题。为了解决上述问题，将神经网络引入CCRF模型中，在训练中利用反向传播算法。传统的CCRF模型中，单点势能在输入输出间建立模型，成对电势根据由核函数预定义的相关矩阵来限制输出。现存的研究中，仅仅将成对势能转换成人工神经网络，并且是用于定义核函数来计算成对交互的相关矩阵。我们的工作中，提出的NN-CCRF模型不仅将成对势能形成神经网络，而且将单点势能重新形成为LSTM神经网络。此外，使用SDAE来学习实例之间的相关矩阵，而不是使用具有专业知识的内核函数预定义它，这更有效地以数据驱动的方式理解区域之间的空间相关性。
对于解决大量数学问题我们组合成一个神经网络框架并以端到端的方式学习参数，而不是手动推导出每个参数的梯度，这减少了很多梯度推导以及数学分析 。
1.提出了一种基于神经网络的连续条件随机场（NN-CCRF）模型，用于细粒度犯罪预测，它将LSTM应用为一元潜力，并利用SDAE来学习空间相关性。
2.将NN-CCRF模型的推理过程制定为顺序神经网络，这有助于我们利用反向传播算法的优势，以端到端的方式训练整个模型。
3.分别对从芝加哥和纽约收集的两份真实犯罪记录进行了实验。并考虑城市中不同类型的犯罪事件和脱节网格作为细粒度区域。
相关
LSTM：一种特殊的递归神经网络，是一种时间循环神经网络，适合于处理和预测时间序列中间隔和延迟相对较长的重要事件。（RNN在依赖信息间隔增大时，会丧失学习到连接如此远的信息的能力。）
CRF：条件随机场（Conditional random field，CRF）是条件概率分布模型 P(Y|X) ，表示的是给定一组输入随机变量 X 的条件下另一组输出随机变量 Y 的马尔可夫随机场。（解决局部归一化问题）
SDAE：主要思想就是将多个DAE堆叠在一起形成一个深度的架构。只有在训练的时候才会对输入进行腐蚀(加噪)，训练完成就不需要在进行腐蚀。
总结：
提出利用将传统的连续条件随机场（CCRF）模型制定成神经网络框架进行细粒度犯罪预测的有效性。具体而言，首先将CCRF模型的推理转换为基于平均场近似理论的迭代过程。之后， 将CCRF的单点势能重新表述为LSTM，并应用SDAE来学习实例之间的成对交互。通过实现这些，提出了一种基于神经网络的CCRF（NN-CCRF）模型，该模型能够处理大规模和细粒度的犯罪预测。此外，将NN-CCRF模型的推理过程重新构造为序列神经网络，这可以帮助我们使用反向传播算法以端到端的方式训练NN-CCRF。