神经网络中隐含层神经元的个数设置技巧

近来研究一下神经网络，往往看到输入层、隐含层、输出层的个数设计，输入、输出层自不必说，数据搞定也就知道了，对于隐含层的神经元设计十分迷惑，网上找了一些资料，算是有了一些了解。
方法1：
fangfaGorman指出隐层结点数s与模式数N的关系是：s＝log2N；

方法二：
Kolmogorov定理表明，隐层结点数s＝2n＋1（n为输入层结点数）；

方法三：
s＝sqrt（0.43mn＋0.12nn＋2.54m＋0.77n＋0.35）＋0.51
（m是输入层的个数，n是输出层的个数）。

---

神经元的个数合适的重要性
如果隐层结点数过少，网络不能具有必要的学习能力和信息预测处理能力。反之，若过多，不仅会大大增加网络结构的复杂性（这一点对硬件实现的网络尤其重要），网络在学习过程中更易陷入局部极小点，而且会使网络的学习速度变得很慢。隐层结点数的选择问题一直受到神经网络研究工作者的高度重视。