机器学习笔记-第四章 神经网络

本文为斯坦福大学吴恩达教授的《机器学习》视频课程第四章主要知识点，参考书籍《Python数据分析与挖掘实战》、《机器学习》

前面的章节学习了线性回归和逻辑算法，实际上很多复杂的非线性分类器都依赖于神经网络算法。

当特征值的个数过多时，多元回归方程的高阶多项式的个数将以几何倍数增加，特征空间将会很大。而对于很多机器学习的例子，特征值的个数是很大的，例如图像识别，一副图片中的像素个数就代表了特征值的数量，如果再用二次项来拟合的话，就会甚至有百万数量级的特征值，计算成本将会变得特别高，所以用多元回归方程计算就不是一个很好的方法。

所以很多复杂的非线性分类问题会使用神经网络方法实现。

生物神经网络的作用过程：

每个神经元会与其它的神经元相连，当它“兴奋”的时候，就会向相连的神经元发送化学物质，从而改变这些神经元内的电位，如果某神经元的电位超过了一个“阈值”，那么它就会被激活，即“兴奋”起来，向其它神经元发送化学物质。

神经网络模型：