李宏毅《机器学习》任务四

Task04开始啦：
Task04：参照开源文档，观看视频 P13：深度学习介绍和反向传播机制（2天）截止时间 07月19日03:00
开源文档：https://datawhalechina.github.io/leeml-notes
视频地址：https://www.bilibili.com/video/BV1Ht411g7Ef

一、深度学习

1. 深度学习发展趋势

2. 深度学习的步骤

Step1：神经网络（Neural network）
Step2：模型评估（Goodness of function）
Step3：选择最优函数（Pick best function）

step1：神经网络

全链接前馈神经网络

全连接和前馈的理解

深度的理解

矩阵计算

示例：手写数字识别

step2：模型评估

总体损失

step3：选择最优函数

反向传播

思考：1. 隐藏层越多越好？

	   2. 普遍性原理
	   参数多的model拟合数据很好是很正常的。下面有一个通用的理论： 对于任何一个连续的函数，都可以用足够多的隐藏层来表示。那为什么我们还需要‘深度’学习呢，直接用一层网络表示不就可以了？在接下来的课程我们会仔细讲到

二、反向传播机制

背景：梯度下降

链式法则

反向传播

总结