深度学习中遇到的一些概念

1.线性回归和逻辑回归

线性回归：回归问题 用来做预测
逻辑回归：分类问题 用来做分类
激活函数：用来加入非线性因素的，因为线性模型的表达力不够。

逻辑回归=线性回归+激活函数
比如 激活函数为sigmod时，就可以很好的处理0 1分类问题

我们知道在神经网络中，对于图像，我们主要采用了卷积的方式来处理，也就是对每个像素点赋予一个权值，这个操作显然就是线性的。但是对于我们样本来说，不一定是线性可分的，为了解决这个问题，我们可以进行线性变化，或者我们引入非线性因素，解决线性模型所不能解决的问题。

2.饱和 梯度 梯度消失
饱和：当输入达到一定值后，输出不再变化
梯度：斜率
梯度消失：函数达到饱和后，斜率不再变化