机器学习周志华笔记系列-第五章-神经网络（欢迎讨论）

系列背景：

从周志华机器学习第四章开始，总结每章的知识点。

非科班，能源工科，复习过考研微积分，线性代数，概率论。机器学习小白。

所以总结机器学习方法的思想，尽量不涉及数学工具，如矩阵微分、奇异值分解、凸优化、概率论共轭分布、KL散度等（书中附录）。

结构简单，问题导向，每个问题分为：问题，思想，其他方法和比较，具体方法，思考，其他。

思考部分为自己提出的一些问题，欢迎大家提出自己的想法

欢迎讨论

 

第五章 神经网络

 

1.问题：神经网络解决什么问题

解答：同线性模型和决策树一样，用来表示因果关系

思想：人类神经系统的基本组成单位是神经元，神经元的工作过程是神经元受刺激（输入）之后电位发生变化，当电位达到阈值时，释放物质（输出）刺激与它相连的神经元，如此将刺激传递下去。神经网络正是将这一过程模型化，神经网络的神经元接收与其连接的神经元的输入（输入用数来表示），为表示不同神经元的影响不同，将输入加权求和作为神经元的输入，神经元接收输入后与阈值作差，最后用激活函数处理，判断对后续神经元是否产生影响。所以理想的激活函数