神经网络学习笔记
1 为什么选择神经网络
无论是线性回归还是逻辑回归,当特征太多时计算的负荷会变得很大。例如当我们的训练对象是一组50X50分辨率的图片时,我们将会有2500个特征,当我们进一步将其构成一个两两组合的多项式模型时就会有2500的平方个特征。因此我们需要更适合的模型。
2 神经网络模型的表示
神经网络是一种很古老的算法,它最初产生的目的是制造能模拟大脑的机器因此神经网络的模型是模仿大脑中的神经网络建立的。右图所示就是最基础的神经元表示了,如果是分类问题那么激活函数一般是sigmoid函数,如果是线性预测那么激活函数可以是常数。
神经网络模型建立在许多神经元之上,其中L1表示输入层,L3表示输出层,其两者之间的都是隐藏层,连线代表参数