李宏毅深度学习task4

深度学习

深度学习是机器学习的一个分支(最重要的分支)
机器学习是人工智能的一个分支
深度学习可以说是在传统神经网络基础上的升级，约等于神经网络
假设深度学习要处理的信息是“水流”，而处理数据的深度学习网络是一个由管道和阀门组成的巨大水管网络。网络的入口是若干管道开口，网络的出口也是若干管道开口。这个水管网络有许多层，每一层由许多个可以控制水流流向与流量的调节阀。根据不同任务的需要，水管网络的层数、每层的调节阀数量可以有不同的变化组合。对复杂任务来说，调节阀的总数可以成千上万甚至更多。水管网络中，每一层的每个调节阀都通过水管与下一层的所有调节阀连接起来，组成一个从前到后，逐层完全连通的水流系统。
深度学习大致是一个用人类的数学知识与计算机算法构建起来的整体架构，再结合尽可能多的训练数据以及计算机的大规模运算能力去调节内部参数，尽可能逼近问题目标的半理论、半经验的建模方式。

深度学习的优缺点

优点

学习能力强
覆盖范围广，适应性好
数据驱动，上限高
可移植性好

缺点

计算量大，便携性差
硬件需求高
模型设计复杂
没有”人性”，容易存在偏见

反向传播

反向传播（英語：Backpropagation，缩写为BP）是“误差反向传播”的简称，是一种与最优化方法（如梯度下降法）结合使用的，用来训练人工神经网络的常见方法。 该方法对网络中所有权重计算损失函数的梯度。 这个梯度会反馈给最优化方法，用来更新权值以最小化损失函数。

引用

链接: Datawhale-李宏毅深度学习
链接: 一文看懂深度学习