论文阅读 Neural Network Modeling of Nonlinear Systems Based on Volterra Series Extension of a Linear Mod

看这篇文章主要是弄不懂NN的核到底是什么，为了读懂这篇文章，准备粗略看下这篇文章

不过一看abstract，用Volterra序列分析神经网络，从实验数据中建立了一种数学模型，我一下子就有兴趣了。

 

对于非线性系统，除了线性近似的脉冲响应外，还必须根据训练后的网络模型的参数来表达更高阶的Volterra核。（怎么表示？）不仅可以获取非线性动力学的神经网络模型，而且可以通过数学表达式来表示该模型。

描述非线性动力学行为的Volterra级数

获得Volterra核的例子

假设网络只有两个节点，没有偏置，则输出为

用Volterra级数展开（我的门外汉理解就是用泰勒级数展开，写成Volterra级数的样子）

这个式子里只有奇数项，如果bias在的话，会出现偶数项

r和b是什么啊？

这个式（18）和式（17）每项都能对上

换句话说，可以从训练后的网络中获得Volterra内核。其中一些内核不会被唯一定义。相反，它们的总和，例如h3（1,0,0）+ h3（0,1,0）+ h3（0,0,1）将等于由网络参数唯一定义的常数。在这种情况下，该常数可以在这个和的分量之间任意分配。对于任何分布，获得的模型将具有相同的属性。

如果网络是有q个节点的单层隐藏层

把tanh按taylor级数展开

跟volterra级数比较一下

可以看到，系数是相等的

这种方法可以从在待识别的非线性系统上训练的神经网络确定解析非线性动力学系统的Volterra级数表示。此过程可用于获取有关任意阶数泰勒展开的Volterra内核。演示了一个简单的示例，并给出了前三个Volterra内核的方程式。当前的工作集中在的网络参数方面，对一般方程式进行形式推导，对任意Volterra内核。

 

点评

为什么看这篇文章呢，之前想过也许可以神经网络输入不止1阶x，还可以输入x1x2，二阶，三阶等，但是后面想到，神经网络的非线性函数+线性和肯定会出现高阶项，这个证明思路跟我当时想得都是一样的，唉，别人30年前就做了。