基于神经网络的知识推理实质上是在一个已经训练成熟的网络基础上对未知样本进行反应或者判断。神经网络的训练是一个网络对训练样本内在规律的学习过程,而对网络进行训练的目的主要是为了让网络模型对训练样本以外的数据具有正确的映射能力通常定义神经网络的泛化能力,也称推广能力,是指神经网络在训练完成之后输入其训练样本以外的新数据时获得正确输出的能力。它是人工神经网络的一个属性,称为泛化性能。
不管是什么类型的网络,不管它用于分类、通近、推理还是其他问题,都存在一个泛化的问题。泛化特性在人工神经网络的应用过程中表现出来,但由网络的设计和建模过程所决定。从本质上来说,不管是内插泛化还是外推泛化,泛化特性的好坏取决于人工神经网络是否从训练样本中找到内部的真正规律。
影响泛化能力的因素主要有:
①训练样本的质量和数量。
②网络结构。
③问题本身的复杂程度。
下图是一个简单的曲线拟合实验,图中实线部分表示理想曲线,“十”表示训练样本数据。(a)、(b)、(c)、(d)分别表示训练100、200、300、400次后,神经网络根据输入的样本数据进行曲线拟合的效果。
![5f084e6b8be77ff432ec6501628cfd4f.png](https://img-blog.csdnimg.cn/img_convert/5f084e6b8be77ff432ec6501628cfd4f.png)
曲线拟合实验
神经网络的训练次数也称为神经网络的学习时间,由试验结果可以看出,在一定范围内,训练次数的增加可以提高神经网络的泛化能力。然而,在神经网络的训练过程中经常出现一种过拟合现象,即在网