机器学习—西瓜书（四）

Task04 第五章
本次学习基于周志华老师《机器学习》，以思维导图形式记录，不含公式推导。公式推导推荐南瓜书：https://github.com/datawhalechina/pumpkin-book
个人小结：一、神经网络通过参数和激活函数来表示输入与输出间的关系，阶跃函数具有不连续、不光滑等不太好的性质，因此实际常用Sigmoid函数作为激活函数。二、感知机是一种单层的神经网络结构，只能处理与、或、非线性可分问题，不能处理亦或这样的非线性可分问题。处理非线性需要多层感知机或其它神经网络结构。三、BP算法是一种与最优化方法（如梯度下降法）结合使用的，用来训练人工神经网络的常见方法。该方法对网络中所有权重计算损失函数的梯度。 这个梯度会反馈给最优化方法，用来更新权值以最小化损失函数。四、梯度下降法容易陷入局部最小，可以使用模拟退火、遗传算法等避免局部最小。五、深度学习是很深层的神经网络。