sklearn(6):手写代码实现线性回归(单一特征和多元特征)

最新推荐文章于 2024-05-23 22:54:13 发布

weixin_51182518

最新推荐文章于 2024-05-23 22:54:13 发布

阅读量362

点赞数

文章标签：算法 python 机器学习

本文链接：https://blog.csdn.net/weixin_51182518/article/details/112386139

版权

本文介绍了如何使用Python手写代码实现线性回归模型，覆盖了单一特征的一元线性回归以及多元特征的多元线性回归。通过理解并实现这些基础算法，有助于深入掌握机器学习中的线性回归概念。

摘要由CSDN通过智能技术生成

单一特征：一元一次

import numpy as np
import matplotlib.pyplot as plt
from sklearn.linear_model import LinearRegression

x=np.linspace(2,10,20).reshape(-1,1)
#f(x)=wx+b
y=np.random.randint(1,6,size=1)*x+np.random.randint(-5,5,size=1)


#加入噪声
y+=np.random.randn(20,1)*0.5

# plt.show()
lr=LinearRegression()
lr.fit(x,y)
# print(lr.coef_)
w=lr.coef_[0,0]
b=lr.intercept_[0]
print(w,b)
x1=np.linspace(1,11,50)
plt.scatter(x,y,color="red")
plt.plot(x1,w*x1+b,color="green")
plt.show()

#使用梯度下降解决一元一次的线性问题
class LinearModel(object):
    def __init__(self):
        self.w=np.random.randn(1)[0]
        self.b=np.random.randn(1)[0]

    # 数学建模：将数据x和目标值关系用数学公式表达
    def model(self,x): #模型，f（x）=wx+b
        return self.w*x+self.b

    def loss(self,x,y):#线性回归的损失函数是最小二乘法
        cost=(y-self.model(x))**2
        #偏导数，求解两个未知数，