关于正规方程求解线性回规问题中的最终的值θ

我是初学者,最近在看https://www.coursera.org上的机器学习教程,学到利用正规方程求解的时候有一处地方一直不理解,那就是式中得出的值θ,我想:常数θ应该有很多个才对啊,例如:θ0,θ1,θ2....θn,这里怎么只有一个θ呢?这个问题直到我用Octave真实计算了才发现,原来这里的结果θ是一个矩阵((n+1)*1的矩阵),这个矩阵里面的每一个元素对应一个θi。


  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
正规方程是一种用于求解线性回归问题的方法。它通过将代价函数对参数θ的偏导数等于零,来求得代价函数最小时的参数。具体而言,正规方程首先定义代价函数,然后将其对参数θ进行偏导数运算,令偏导数等于零,最后解出参数θ的。 使用正规方程求解线性回归可以避免使用梯度下降等迭代算法,直接得到参数θ的解析解。对于简单的线性回归问题正规方程是一种方便且直观的求解方法。 要使用正规方程求解线性回归,需要以下几个步骤: 1. 定义代价函数:线性回归的代价函数通常采用均方误差(Mean Square Error, MSE)。它衡量了模型预测与实际之间的差异。代价函数的定义为所有样本预测与实际之差的平方和的一半。 2. 求解偏导数:将代价函数对参数θ进行偏导数运算,得到一个关于θ的方程。 3. 令偏导数等于零:将求得的偏导数方程等于零,得到一个关于θ的方程。 4. 解方程:解出关于θ的方程,得到最优的参数θ。 需要注意的是,正规方程求解过程需要计算矩阵的逆,因此当矩阵不可逆时,无法使用正规方程求解线性回归。此时可以考虑使用岭回归或Lasso回归等方法来解决。 总结起来,正规方程是一种通过最小化代价函数的解析解来求解线性回归的方法。它是一种直观且方便的求解方法,但在某些情况下可能无法使用。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值