机器学习算法基础（回归算法、逻辑回归、k-means聚类算法）

最新推荐文章于 2024-07-24 11:37:51 发布

只求毕业

最新推荐文章于 2024-07-24 11:37:51 发布

阅读量1.4k

点赞数 2

文章标签：机器学习

本文链接：https://blog.csdn.net/qq_41514914/article/details/105452142

版权

这篇博客详细介绍了机器学习的基础算法，包括线性回归、逻辑回归和k-means聚类。线性回归部分讨论了线性模型、损失函数、正规方程与梯度下降等；逻辑回归讲解了其作为二分类算法的原理和应用；k-means聚类算法则阐述了其步骤、性能评估方法，并提供了API使用示例。

摘要由CSDN通过智能技术生成

第一部分回归算法

（一）线性回归

线性模型

在这里插入图片描述

线性回归

在这里插入图片描述

损失函数（误差大小）

在这里插入图片描述

减小误差的方法

正规方程

在这里插入图片描述

梯度下降

在这里插入图片描述

正规方程、梯度下降API

在这里插入图片描述

回归性能评估

在这里插入图片描述

回归评估API

在这里插入图片描述

两种方法的总结

在这里插入图片描述

（二）欠拟合与过拟合

定义

在这里插入图片描述

产生原因及解决方法

在这里插入图片描述

（三）岭回归——带正则项的线性回归

正则化

在这里插入图片描述

岭回归API

在这里插入图片描述

代码实例——预测波士顿的房价

from sklearn.datasets import load_boston
from sklearn.linear_model import LinearRegression,SGDRegressor,Ridge
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler
from sklearn.metrics import mean_squared_error
import numpy as np


def myliner():
    '''
    线性回归直接预测房子价格
    '''
    #获取数据
    lb=load_boston()
    #分割数据集到训练集和测试集
    x_train,x_test,y_train,y_test=train_test_split(lb.data,lb.target,test_size=0.25)
    #进行标准化处理，特征值和标准值都必须进行标准化处理
    std_x=StandardScaler()
    x_train=std_x.fit_transform(x_train)
    x_test=std_x.transform(x_test)
    std_y = StandardScaler()
    y_train = std_y.fit_transform(y_train.reshape(-1,1)) #0.19版的sklearn要求传入的数组必须是二维数组
    y_test = std_y.<