nndl_读数笔记

1、为什么要使用validationdata而不是用testdata去是设置神经网络的超参数（迭代期、学
习速率、网络框架等）
　　A:因为如果通过testdata来设置超参数会得到符合testdata特点的超参数，但是网
络的性能并不能够在其他数据集上获得较好的性能。故采用validationdata去获得想要的超
参数，并最终通过testdata去获得准确率的测量。

 

2、关于浅层神经网络可以逼近任何函数的理解

　　A：sigmoid函数通过调整w和b可以将其逼近阶跃函数。对于每一个隐藏层的节点来说可以看作一个阶跃函数，一对阶跃函数则可以形成一个凸矩形，通过调整矩形的高度则可以近似的逼近原始图像，当输入值为一维的时候则表现出来的是矩形二维逼近，如果是输入的数据是二维的话则表现出来的就是三维的塔形。

转载于:https://www.cnblogs.com/brucechua/p/8466814.html