DataWhale李宏毅机器学习D2打卡

学习内容：机器学习介绍，p3-4

学习地址：李宏毅《机器学习》_哔哩哔哩_bilibili

第一步：

找Function Set=Model

模型搭建步骤：

1.模型假设——选择模型框架（线性模型）

2.模型评估——如果判断众多模型的好坏（损失函数）

3.模型优化——筛选出最优模型（梯度下降）

1.模型假设

1.1一元线性模型（一个变量）

1.2多元线性模型（多个变量）

xi：各种特征

wi：各特征的权重

b：偏移量

【对于单个特征】

2.模型评估-损失函数

 3.最佳模型-梯度下降

 

选定一个w0

（2）计算微分，即斜率，根据斜率来判定研究方向。

大于0向右

小于0向左

（3）根据学习率移动

重复直至找到最低点

最小二乘法：直接找到全局最优，令偏导数为0

梯度下降法：迭代法，容易找到局部最有，对初始点非常敏感

4.梯度下降法在现实世界面临的挑战

三种情形：

1.当前最优

2.等于0

3.趋近于0

如果在复杂的模型中，就会遇到2.3两种情形

5.w和b的计算方法

【两个特征】

 

这里我们又提出一个新的问题：是不是能画出直线就是线性模型，各种复杂的曲线就是非线性模型？ 其实还是线性模型，因为把 x_{cp}^1xcp1​ = (x_{cp})^2(xcp​)2 看作一个特征，那么 y = b + w_1·x_{cp} + w_2·x_{cp}^1y=b+w1​⋅xcp​+w2​⋅xcp1​ 其实就是线性模型。

来自 <LeeML-Notes>