代价函数、梯度下降、cnn

代价函数

引

给定一些父亲和子女的身高数据， 找到一个数学模型，描述这种关系，从而预测一个人的身高。

回归问题（Regression)

想找的数学模型在统计学中被称为预测函数，y = f(x),假设是直线即 y = wx+b,则称为线性回归（Linear Regression）。
解决方法：最小二乘法。
e = aw^2+bw+c:代价函数（损失函数）

预测函数与代价函数

图片来自b站梗直哥、

梯度下降

代价函数(cost function)

e = aw^2+bw+c,a>0.根据代价函数，找出拟合效果最好的代价函数，找到使得误差代价最小的参数，即最低点。寻找最低点的过程，就是梯度下降。

学习率

新w = 旧w-斜率*学习率

循环迭代

不达目的不罢休。

cnn

卷积（convolution）

用极简的数学形式描述一个动态过程。（火车进山洞）

图片来自b站梗直哥、

应用领域

通信（信号—频率、调制）、物理、电路学、信号处理（滤波）、图像处理

cnn

字符识别、人脸识别、美颜
过程
卷积层：高效特征提取。
池化层：抓住主要矛盾，忽略次要矛盾。
王者归来：AlexNet