机器学习笔记02线性回归

最新推荐文章于 2024-04-17 17:55:44 发布

亚李士多德

最新推荐文章于 2024-04-17 17:55:44 发布

阅读量967

点赞数

分类专栏：机器学习数据分析文章标签：机器学习数据分析

本文链接：https://blog.csdn.net/yali_shiduode/article/details/91009168

版权

本文详细探讨了机器学习中的线性回归模型，从基本概念到实现步骤，包括梯度下降法和正规方程的解析。通过实例分析，解释了线性回归如何用于预测和数据分析，并讨论了其在实际问题中的应用与局限性。

摘要生成于 C知道，由 DeepSeek-R1 满血版支持，前往体验 >

# -*- coding: utf-8 -*-
'''
Folds5x2_pp.csv共有9568个样本数据，每个数据有5列，分别是:AT（温度）, V（压力）, AP（湿度）, RH（压强）, PE（输出电力)。
对应PE是样本输出，而AT/V/AP/RH这4个是样本特征， 机器学习的目的就是得到一个线性回归模型
'''

'''
不同方法建立线性回归模型
一.传统的统计学statsmodels.formula.api建立ols线性回归模型
二.机器学习sklearn.linear_model建立LinearRegression线性回归模型

为了防止线性模型过拟合,建立线性回归模型时加入正则化项
1. 线性回归的L1正则化: Lasso回归,正则化项:L1范数
    定义:Lasso回归与一般线性回归的区别主要是在损失函数上增加L1正则化的项, L1正则化的项有一个常数a来调节损失函数的均方误差和正则化项的权重.
    Lasso回归算法:坐标轴下降法(coordinate descent)和最小角回归法(Least Angle Regressino)
2. 线性回归的L2正则化: Ridge回归,正则化项:L2范数
    定义:Ridge回归与一般线性回归的区别主要是在损失函数上增加L2正则化的项
    Ridge回归算法:最小二乘法
    
三.机器学习sklearn.linear_model建立Ridge回归以及选择Ridge回归超参数a

'''
# 读取数据
import os
import pandas as pd
import numpy as np

os.chdir(r'F:\python_data_mining\CCPP')
data = pd.read_csv('Folds5x2_pp.csv')
print('数据预览: \n{}'.format(data.head()))
pr

最低0.47元/天解锁文章