# 最小二乘法 模型_研一小姑娘今天分享机器学习之线性模型——最小二乘法

这两天在准备应用统计硕士案例分析比赛的前期工作,慕课网上这周的内容也跟着学完了,那今天就先和大家分享一下我自读机器学习这本书里的读书笔记咯~

ed5d9321e7bb1bb3eb8017d3b34a8017.png

线性模型是处理属性变量和响应变量关系的基础模型

143c0319f24f5916f9f1404aed85e7fc.png

定义模型,最重要的是使损失最小

f3e2ca37c7a7e0a915d7c57ea9ebd8d1.png

平方差是常用的损失函数类型

efa7690a881fdbd01047d02cede16cc7.png

对变量求偏导,并令其偏导数为0,可以得到一个驻点

001ecc2406776d6669ec75362331fbc5.png

求二阶导可以判断该驻点是否为极值点

cac4027563c7a756cb5d56bb7c3935f0.png

套用公式,即可得到结果值

4eddc49cad1d7e72a4d51a30e60264a4.png

接下来就是做预测,详细数据在书上,这里就不多描述

9779ef9246360f150f02dbd43833735f.png

当变量增多时,上述方法会费时费力

caf4315e974e4a94ff4400027751c0b4.png

选取向量和矩阵的形式来表达会更简便

1d3930ad808c5aab72ead2987d5ca2b6.png

用矩阵和向量进行计算

47afdc97de03e2d85c637b94140a4f96.png

穿插一下矩阵的计算方法

53d5d3b24f606e7ddfea6f6860970b6d.png

这里就得到了由矩阵表达的结果

32b36d751689f8b0e325ec72d5a8aa57.png

经计算,确实与之前的算法得出的结果一致

4953bc69e11a10210e676a9a4e408f85.png

小结:使用矩阵或者向量来表达含有多个属性的变量会更加容易计算

今天的分享就到这里咯,以上笔记只是较为详细地对线性模型以及选用最小二乘法作为计算损失函数的方法做了说明。对于线性模型,它可以增加更多的属性,更多的变量,除此之外,还有线性模型的非线性响应,想要了解更多就请期待我下次学习笔记的分享咯~

明天将要分享的是python爬虫,爬取豆瓣电影排行TOP250的电影,以及相关信息,为这次的比赛做数据准备工作,明天见啦~

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值