定义函数
线性模型:把输入的特征 x 乘上一个权重,再加上一个偏置就得到预测的结果,称之为线性模型,(即x与y之间为直线性的关系)
模型的限制(模型的偏差):对于线性模型,就是x与y之间就是一条直线的关系,在实际应用中,与真实的实际情况有很大偏差,这种无法模拟真实情况即叫做模型的限制。
x和y有更为复杂的关系,于是引入分段线性曲线,简单来说分段线性曲线可以看作是多个常数+很多线性模型构成的。模型越复杂,线性模型越多。
分段线性曲线:
则表示为红色的线=0+1+2+3(0,1,2,3有不同的参数)
Sigmoid 函数:是一种在机器学习和深度学习中广泛使用的激活函数。
可以通过不同的w(斜率),b(偏移量),c(高度)参数改变,逼近不同的函数。
定义损失
通过改变不同的参数值,计算出y值,并与label进行比较,使用求平均值的方式得到Loss
机器学习框架
训练集:拿来训练模型的数据集
测试集:检测模型的数据集
1.先写出一个有未知数 θ 的函数,θ 代表一个模型里面所有的未知参数。fθfθ(x) 的意思就是函数叫 fθfθ(x),输入的特征为 x,;
2. 定义损失,损失是一个函数,其输入就是一组参数,去判断这一组参数的好坏;
3. 解一个优化的问题,找一个 θ,该 θ 可以让损失的值越小越好。让损失的值最小的 θ 为θ∗,
即θ∗ = argminθL
过拟合:过拟合是指一个机器学习模型在训练数据上表现得很好,但在测试数据上表现不佳的现象。