李宏毅20机器学习P3:Regression

最新推荐文章于 2024-10-10 23:18:01 发布

ssdkozs

最新推荐文章于 2024-10-10 23:18:01 发布

阅读量82

点赞数

文章标签：机器学习

本文链接：https://blog.csdn.net/ssdkozs/article/details/120711965

版权

本文介绍了机器学习的三个基本步骤，并详细讲解了线性回归模型的建立，包括损失函数的定义和梯度下降法寻找最优解的过程。此外，还讨论了过拟合的概念及正则化作为解决手段的重要性。

摘要由CSDN通过智能技术生成

                    
                        
                    
                    P3:Regrssion（回归） 
机器学习的三个步骤 
寻找模型
定义损失函数（Loss）来衡量模型好坏
找出最好的函数
 Step1 :寻找function set
 假设为线性回归，则 y = ∑ w i ∗ x i + b y = \sum{w_i * x_i} + b y=∑wi​∗xi​+b 其中 x i x_i xi​是输入数据集的各种属性，即feature； w i w_i wi​与b分别为模型的权重weight和偏差bias。
 Step2 :衡量function的好坏
 定义Loss函数L：输入为函数，输出是好坏程度
  L ( f ) = L ( w , b ) = ∑ n = 1 N ( y ^ n − ( b + w ∗ x n ) ) 2 L(f) = L(w,b)=\sum_{n=1}^N ({\hat{y}}^n-(b+w*{x^n}))^2 L(f)=L(w,b)=n=1∑N​(y^​n−(b+w∗xn))2
 Step3 :找出最好的function
 找出最好的函数  f ∗ = a r g   min ⁡ f L ( f ) 即 w ∗ , b ∗ = a r g   min ⁡ w , b L ( w , b ) f^* = arg\,\min_{f} L(f) 即 w^*,b^* = arg\,\min_{w,b} L(w,b) f∗=argminf​L(f)即w∗,b∗=argminw,b​</

                