【DataWhale-李宏毅深度学习】Task07总结

一、前言

经过半个月的学习，我收获了很多，因为自己的知识不是很丰富，平时还要上班，所以我对自己的定位就是尽可能多的了解深度学习的知识，看视频和阅读文档，没有进行拓展，也没用用代码进行验证，这是非常不足的。还需要多多加强深度拓展和代码方面的知识。以下是我对自己最近半个月的学习总结。

二、总结

2.1 初识机器学习

机器学习是让机器有自己学习的能力，是通过人类编写程序去实现这种能力的。
机器学习的技术多种多样，主要分为监督学习（分类、回归）、半监督学习、迁移学习、无监督学习和强化学习。

2.2 回归

当机器学习找到的一个功能时，它输出的结果是一个标量，称为回归。

2.3 误差和梯度下降

2.3.1 误差

误差为什么会产生，是由于方差和偏差的不同而导致的。

2.3.2 梯度下降

梯度下降底的直观解释如下：比如我们在一座大山上的某处位置，由于我们不知道怎么下山，于是决定走一步算一步，也就是在每走到一个位置的时候，求解当前位置的梯度，沿着梯度的负方向，也就是当前最陡峭的位置向下走一步，然后继续求解当前位置梯度，向这一步所在位置沿着最陡峭最易下山的位置走一步。这样一步步的走下去，一直走到觉得我们已经到了山脚。当然这样走下去，有可能我们不能走到山脚，而是到了某一个局部的山峰低处。

• 可以通过调整学习率得到不同的值。

2.4 深度学习介绍

深度学习是机器学习研究中的一个新的领域，其动机在于建立、模拟人脑进行分析学习的神经网络，它模仿人脑的机制来解释数据，例如图像，声音和文本。

2.5 网络设计的优化

批次和动量

• 批次是对某对象进行批量的处理，可以减少运算时间。
• 动量具有一定的惯性，让其沿着原有惯性的方向前行，从而不会被最低点卡住。

自动调整学习率

• 每一个时刻的学习率不应该都相同的，需要特制化。

2.6 卷积神经网络