微分方程模型_神经受控微分方程：非规则时间序列预测新SOTA

机器之心报道

参与：Racoon、魔王、小舟

使用神经微分方程对时间序列的动态进行建模是一个很有潜力的选择，然而目前方法的性能往往受限于对初始条件的选择。这项新研究提出了改进策略，实现了新的 SOTA 性能。

神经常微分方程是对时序动态建模的不错选择。但是，它存在一个基本问题：常微分方程的解是由其初始条件决定的，缺乏根据后续观察调整轨迹的机制。

那么如何解决这一问题呢？来自牛津大学、阿兰图灵研究所和大英图书馆的一项研究展示了，如何通过受控微分方程的数学知识解决该问题。

该研究提出的神经受控微分方程(neural controlled differential equation)模型可直接用于部分观测的不规则采样多变量时间序列的通用设置，(与之前的解决方案不同，)它甚至可以在跨观测的情况下利用节约内存的共轭反向传播(adjoint-based backpropagation)。

该研究在多个数据集上进行了实验，发现该模型超过类似的(基于 ODE 或者 RNN)模型，实现了 SOTA 性能。最后，该研究还提供了理论结果，证明该模型是通用逼近器，且该模型包含了替代性的 ODE 模型。

• 论文链接：https://arxiv.org/abs/2005.08926
• 代码链接：https://git