基于图正则化的贝叶斯宽度学习系统

摘要

作为一种前馈神经网络，宽度学习系统因其精度高、训练速度快且能有效代替深度学习方法而备受研究者的关注。然而，宽度学习系统存在对网络中的特征节点个数比较敏感且求伪逆方式易使模型出现过拟合等问题。为此，在宽度学习系统中引入贝叶斯推断和图正则化。一方面，通过引入先验知识进行贝叶斯学习可以有效提高权重的稀疏性，提高模型的稳定性；另一方面，加入图正则化可充分考虑数据内在的图信息，进一步提高模型的泛化能力。在UCI数据集和NORB数据集上对所提模型进行性能评估，实验结果表明，所提的基于图正则化的贝叶斯宽度学习系统模型能进一步提高宽度学习系统的分类精度且具有更好的稳定性。