L3 逻辑回归模型

最新推荐文章于 2024-09-08 15:12:17 发布
最新推荐文章于 2024-09-08 15:12:17 发布
阅读量557 收藏 29
点赞数 10
文章标签： 逻辑回归 算法 机器学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/huhuhu1532/article/details/140875899
版权

目录

前言

一、我的环境

  • 电脑系统：Windows 11
  • 语言环境：Python 3.9.7
  • 编辑器：Jupyter Lab

二、 逻辑回归模型代码实现

1.数据预处理

导入库

###数据预处理
##导入库
import numpy  as np
import pandas as pd
import matplotlib.pyplot as plt

导入数据

##导入数据
dataset = pd.read_csv('F:\\博士期间\\课程学习\\机器学习\\365训练营\\data\\Social_Network_Ads.csv')
dataset

在这里插入图片描述

将数据集分成训练集和测试集

#这行代码选取了 dataset DataFrame 中的第3列和第4列
#（因为索引是从0开始的，所以索引2和3分别对应第3和第4列）
#并将这些列的数据赋值给变量 X。.values 属性将这些列转换为一个 NumPy数组
X = dataset.iloc[ : , [2,3]].values
Y = dataset.iloc[ : ,4].values
#X.shape 将给出两个维度，分别对应于样本数（行数）和特征数（列数）
#Y.shape 将给出样本数（通常是一个单一维度，表示行数）
X.shape, Y.shape

在这里插入图片描述

###将数据集分成训练集和测试集
from sklearn.model_selection import train_test_split
X_train, X_test, Y_train, Y_test = train_test_split(X, Y, 
                                                    test_size=0.25, 
                                                    random_state=0)
X_train.shape,Y_train.shape

在这里插入图片描述

2. 逻辑回归模型

###逻辑回归模型
from sklearn.linear_model import LogisticRegression
#创建模型实例
classifier = LogisticRegression()
#训练模型  fit 方法将使用train数据来学习模型参数,并将参数保存在模型实例中
classifier.fit(X_train, Y_train)

3. 预测结果

Y_pred = classifier.predict(X_test)

4. 评估预测结果

训练集可视化

from matplotlib.colors import ListedColormap

X_set, y_set = X_train,Y_train

x = np.arange(start=X_set[:,0].min()-1, 
              stop=X_set[:, 0].max()+1, 
              step=0.01)

y = np.arange(start=X_set[:,1].min()-1, 
              stop=X_set[:,1].max()+1, 
              step=100)

x.shape, y.shape

在这里插入图片描述

#把x，y绑定为网格的形式
X1,X2 =np. meshgrid(x,y)

plt.contourf(X1, X2, 
             classifier.predict(np.array([X1.ravel(),X2.ravel()]).T).reshape(X1.shape),
             alpha = 0.75, 
             cmap = ListedColormap(('red', 'green')))

plt.xlim(X1.min(),X1.max())
plt.ylim(X2.min(),X2.max())

for i,j in enumerate(np.unique(y_set)):
    plt.scatter(X_set[y_set==j,0],
                X_set[y_set==j,1],
                c = ListedColormap(['red', 'green'])(i), 
                label=j)

plt.title('LOGISTIC(Training set)')
plt.xlabel('Age')
plt.ylabel('Estimated Salary')
plt.legend()
plt.show()

测试集可视化

X_set, y_set = X_test,Y_pred

x = np.arange(start=X_set[:,0].min()-1, stop=X_set[:, 0].max()+1, step=0.01)
y = np.arange(start=X_set[:,1].min()-1, stop=X_set[:,1].max()+1, step=100)
#把x，y绑定为网格的形式
X1,X2=np. meshgrid(x,y)

plt.contourf(X1, X2, classifier.predict(np.array([X1.ravel(),X2.ravel()]).T).reshape(X1.shape),
             alpha = 0.75, cmap = ListedColormap(('red', 'green')))
plt.xlim(X1.min(),X1.max())
plt.ylim(X2.min(),X2.max())
for i,j in enumerate(np.unique(y_set)):
    plt.scatter(X_set[y_set==j,0],
                X_set[y_set==j,1],
                c = ListedColormap(('red', 'green'))(i), 
                label=j)

plt. title('LOGISTIC(Test set)')
plt. xlabel('Age')
plt. ylabel('Estimated Salary')
plt. legend()
plt. show()

#把x，y绑定为网格的形式
#使用 np.meshgrid 创建网格
X1,X2 =np. meshgrid(x,y)
#绘制决策边界  使用 matplotlib.pyplot 的 contourf 函数绘制填充的等高线图，即决策边界图
#classifier.predict(...) 预测网格上每个点的类别
#np.array([X1.ravel(), X2.ravel()]).T 将 X1 和 X2 展平成一维数组，然后转置以匹配预测函数的输入格式
#.reshape(X1.shape) 将预测结果 Z 重塑为与 X1 和 X2 相同的形状，以便能够在网格上绘制
#alpha=0.75 设置透明度，以便在网格线下方看到填充的颜色
plt.contourf(X1, X2, 
             classifier.predict(np.array([X1.ravel(),X2.ravel()]).T).reshape(X1.shape),
             alpha = 0.75, 
             cmap = ListedColormap(('red', 'green')))
#设置x轴和y轴的显示范围，确保它们覆盖所有数据点的范围
plt.xlim(X1.min(),X1.max())
plt.ylim(X2.min(),X2.max())
#遍历 y_set 中的所有唯一类别
#np.unique(y_set) 返回 y_set 中不同类别的数组
#enumerate 同时提供了类别值和它们的索引

for i,j in enumerate(np.unique(y_set)):
    plt.scatter(X_set[y_set==j,0],#根据类别筛选数据,筛选出 X_set 中属于当前类别 j 的所有第一个特征值
                X_set[y_set==j,1],#筛选出 X_set 中属于当前类别 j 的所有第第二个特征的值
                c = ListedColormap(['red', 'green'])(i), #根据索引 i 选择颜色
                label=j)#设置图例中的标签为当前的类别值

plt.title('LOGISTIC(Training set)')
plt.xlabel('Age')
plt.ylabel('Estimated Salary')
plt.legend()
plt.show()

在这里插入图片描述

测试集可视化

##测试集可视化
X_set, y_set = X_test,Y_pred

x = np.arange(start=X_set[:,0].min()-1, stop=X_set[:, 0].max()+1, step=0.01)
y = np.arange(start=X_set[:,1].min()-1, stop=X_set[:,1].max()+1, step=100)
#把x，y绑定为网格的形式
X1,X2=np. meshgrid(x,y)

plt.contourf(X1, X2, classifier.predict(np.array([X1.ravel(),X2.ravel()]).T).reshape(X1.shape),
             alpha = 0.75, cmap = ListedColormap(('red', 'green')))
plt.xlim(X1.min(),X1.max())
plt.ylim(X2.min(),X2.max())
for i,j in enumerate(np.unique(y_set)):
    plt.scatter(X_set[y_set==j,0],
                X_set[y_set==j,1],
                c = ListedColormap(('red', 'green'))(i), 
                label=j)

plt. title('LOGISTIC(Test set)')
plt. xlabel('Age')
plt. ylabel('Estimated Salary')
plt. legend()
plt. show()

在这里插入图片描述

三、函数详解

1.LogisticRegression() 函数详解

sklearn.linear_model.LogisticRegression 是 scikit-learn 库中用于实现逻辑回归（Logistic Regression）的函数。这个函数可以处理二元分类、多分类问题，并且提供了多种选项来调整模型的行为。下面是对这个函数的详细介绍：

1.1 函数原型

LogisticRegression(
    penalty='l2',                 # 正则化类型，'l1', 'l2', 'elasticnet', 'none'
    dual=False,                   # 双对偶或原始方法
    tol=0.0001,                   # 优化过程的容差
    C=1.0,                        # 正则化强度的倒数，较小的值表示较强的正则化
    fit_intercept=True,           # 是否拟合截距项
    intercept_scaling=1,          # 拦截（截距）的缩放系数
    class_weight=None,            # 给定类别的权重，'balanced' 或 dict
    random_state=None,            # 随机数种子
    solver='lbfgs',               # 优化算法，{'newton-cg', 'lbfgs', 'liblinear', 'sag', 'saga'}
    max_iter=100,                 # 最大迭代次数
    multi_class='auto',           # 处理多类分类问题的方法，{'auto', 'ovr', 'multinomial'}
    verbose=0,                    # 是否在训练过程中输出日志信息
    warm_start=False,             # 是否使用上次调用的解作为初始解
    n_jobs=None,                  # 并行处理的作业数量
    l1_ratio=None                 # 混合正则化的弹性网络的l1比例
)

1.2 常用参数解释

● penalty：指定正则化类型。‘l2’ 为默认值，‘l1’ 适用于稀疏特征，‘elasticnet’ 是 L1 和 L2 的组合，‘none’ 不使用正则化。
● dual：对数对偶或原始方法，默认值为 False，适用于样本数量大于特征数量的情况。
● tol：停止优化的标准。
● C：正则化强度的倒数，值越小正则化越强。
● fit_intercept：是否拟合截距项。
● intercept_scaling：仅在 solver=‘liblinear’ 时使用。
● class_weight：用于处理类别不平衡问题，可以设置为 ‘balanced’ 或者自定义的权重字典。
● random_state：随机数种子，保证结果的可重复性。
● solver：选择优化算法，不同算法在不同数据集上的表现不同。
● max_iter：优化算法的最大迭代次数。
● multi_class：处理多类分类问题的方法，‘auto’ 会根据数据集自动选择。
● verbose：控制训练过程中的详细输出。
● warm_start：是否使用上次调用的结果作为初始值。
● n_jobs：并行运算的作业数量，-1 表示使用所有CPU。
● l1_ratio：仅在使用 ‘elasticnet’ 正则化时使用，控制 L1 和 L2 的比例。

1.3 常用方法

● fit(X, y)：训练模型。
● predict(X)：使用训练好的模型进行预测。
● predict_proba(X)：返回每个样本属于各个类别的概率。
● decision_function(X)：返回每个样本的置信度分数。
● score(X, y)：返回给定测试数据和标签的平均准确度。
● get_params()：获取模型参数。
● set_params()：设置模型参数。

2. plt.contourf() 函数详解

plt.contourf 是 Matplotlib 库中的一个函数，用于绘制填充等高线图（filled contour plot）。它与 plt.contour 类似，但不同之处在于，plt.contourf 会在不同等高线之间填充颜色，从而创建一个更具视觉吸引力的图形。以下是 plt.contourf 函数的详细介绍，包括其用法和参数。

2.1 函数原型

matplotlib.pyplot.contourf(X, Y, Z, levels=10, cmap=None, **kwargs)

2.2 参数详解

● X, Y: 二维数组，定义等高线图的网格点坐标。
○ X 和 Y 的形状应与 Z 相同，或是通过 numpy.meshgrid 函数生成的二维网格。
● Z: 二维数组，定义每个网格点的数值。等高线将根据这些值绘制。
● levels: 可选，定义等高线的级别数或具体级别值。
○ 如果是一个整数，表示等高线的数量，默认值为 10。
○ 如果是一个序列，表示等高线的具体值。
● cmap: 可选，指定颜色映射，用于填充等高线之间的区域。可以是 Matplotlib 中的预定义颜色映射或自定义颜色映射。
● kwargs: 其他可选参数，用于控制图形的外观，如颜色条的属性、线型、透明度等。

2.3 返回值

返回一个 QuadContourSet 对象，包含绘制的等高线信息，可以用于进一步的自定义或添加颜色条。

四、总结

  • 代码解读已在第二部分标出
  • CHATGPT、kimi利用起来
  • 函数详解
huhuhu1532
关注
  • 10
    点赞
  • 踩
  • 29
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
逻辑回归算法梳理-2
jdjd321的博客
04-01 669
1、逻辑回归与线性回归的联系与区别 2、 逻辑回归的原理 3、逻辑回归损失函数推导及优化 4、 正则化与模型评估指标 5、逻辑回归的优缺点 6、样本不均衡问题解决办法 7、sklearn参数 ...
02_行销（Marketing）里用逻辑回归来找寻顾客参与度后面的原因
oyww710的博客
05-11 1400
行销（Marketing）里用逻辑回归来找寻顾客参与度后面的原因Load packagesGenerate engage categoryEngagement RateEngage By Renew Offer TypeEngage By Sales ChannelTotal Claim Amount DistributionsIncome DistributionsRegression using different featuresAll together in logistic regression
L3 机器学习——逻辑回归
weixin_43934209的博客
07-22 1919
逻辑回归（Logistic Regression）用来解决二分类问题，其输出值为离散的0和1。此方法将数据拟合到一个logit函数中，从而完成对事件发生概率的预测。逻辑回归假设因变量 y 服从伯努利分布，而线性回归假设因变量 y 服从高斯分布。这段代码的主要功能是绘制分类器在训练集上的决策边界，并将训练集数据点可视化。5. 设置图表的标题、x 轴标签、y 轴标签，并显示图例，最后显示图表。在第一个特征的范围内生成，步长为 0.01。在第二个特征的范围内生成，步长为 100。
深度学习：L3 逻辑回归
nanalia的博客
09-06 933
Logistic 回归是机器学习中的一种分类算法，常用于二分类问题（如将数据分为0或者1，判断真或假，是或否）。Logistic regression并不用于预测连续值。优点模型结构简单速度快，适合大规模数据可解释性强缺点易受异常值影响数据不线性可分时，表现较差。
逻辑回归算法梳理
sanpang2288的博客
04-01 519
1. 逻辑回归与线性回归的联系与区别 其实并没有本质上的区别，就是逻辑回归多了一个Sigmoid函数，使样本能映射到[0,1]之间的数值，用来做分类问题。 简单的例子就是可以使用吴恩达的课程中的例子来解释，线性回归用来预测房价，能找到一个公式来尽量拟合房价和影响房价因素之间的关系，最后得到的公式能准确的用来预测房价。在对参数不断调优以找到一组最拟合数据的参数来构成一个最好的模型，就是线性回归。逻辑...
4 - L3 机器学习 | 逻辑回归
hazel_cjx的博客
07-19 852
二分类问题 在二分类问题中，目标变量只有两个可能的取值，通常记作0和1。逻辑回归的任务是根据输入的特征，预测目标变量为1的概率。逻辑函数（Logistic Function） 逻辑回归使用逻辑函数（或称Sigmoid函数）将线性回归模型的输出转换为一个（0, 1）区间内的概率值。逻辑函数的公式为：​其中，𝑧 是线性回归模型的输出，即特征的线性组合：​。
三参数逻辑回归 - 反复出现：使用三点逻辑回归或插值数据拟合数据点。-matlab开发
05-29
特别是，三参数逻辑回归或 3PL 非线性回归模型通常用于生物测定或免疫测定（如 ELISA、RIA、IRMA 或剂量React曲线）中的曲线拟合分析。 它的特点是经典的“S”或 sigmoidal 形状，适合曲线的顶部平台、EC50 和斜率...
逻辑回归 修改参数解决样本数据不均衡的问题
qq_45531594的博客
09-06 1461
逻辑回归参数： 下面会用到修改权重： 建立混沌矩阵： import pandas as pd #接下来就是如何算4个指标 fp tp fn tn # 假正类（False Positive，FP）：将负类预测为正类 fp_filter = (predictions == 1) & (loans["loan_status"] == 0) fp = len(predictions[fp_filter]) print(fp) print("--------------------------------
python 逻辑回归基本使用
zkpython的博客
05-19 1259
1. 逻辑回归介绍 逻辑回归（Logistic Regression）是机器学习中的一种分类模型，逻辑回归是一种分类算法，虽然名字中带有回归，但是它与回归之间有一定的联系。由于算法的简单和高效，在实际中应用非常广泛。 广告点击率 是否为垃圾邮件 是否患病 金融诈骗 虚假账号 看到上面的例子，我们可以发现其中的特点，那就是都属于两个类别之间的判断。逻辑回归就是解决二分类问题的利器 2. 逻辑回归原理 要想掌握逻辑回归，必须掌握两点： 1.逻辑回归中，其输入值是什么 2.如何判断逻辑回归的输出 2.1 输入
生信机器学习入门4 - scikit-learn训练逻辑回归（LR）模型和支持向量机（SVM）模型
LittleComputerRobot的博客
09-01 854
scikit-learn训练逻辑回归（LR）模型和支持向量机（SVM）模型
dp算法练习【7】
最新发布
MADAO的博客
09-08 806
给你一个按排序的整数数组nums，返回组成的新数组，要求也按排序。平方后，数组变为 [16,1,0,9,100]排序后，数组变为 [0,1,9,16,100]非常简单，思路平方后排序。优化：插入法。
算法练习题13——除自身以外数组的乘积（动态规划）
hello77的blogggg 祝你得偿所愿
09-04 672
给你一个整数数组nums，返回 数组answer，其中answer[i]等于nums中除nums[i]之外其余各元素的乘积。
LeetCode LCR088.使用最小花费爬楼梯
m0_63816268的博客
09-03 1080
动态规划
C语言：刷题笔记
weixin_45930573的博客
09-04 395
c语言刷题记录
【大数据分析与挖掘算法】matlab实现——Apriori关联规则算法
Robbi_的博客
09-04 584
四、实验结果。
树状数组记录
volcan的博客
09-06 583
树状数组（Fenwick Tree）是一种用于维护数组前缀和的数据结构，支持高效的单点更新和区间查询操作。它的查询和更新时间复杂度为Ologn，适用于需要频繁更新和查询的场景。
第四讲：拟合算法
PGeorge6的博客
09-03 1333
与插值问题不同，在拟合问题中不需要曲线一定经过给定的点。拟合问题的目标是寻求一个函数(曲线)使得该曲线在某种准则下与所有的数据点最为接近，即曲线拟合的最好(最小化损失函数)。插值算法中，得到的多项式f(x)要经过所有样本点。但是如果样本点太多，那么这个多项式次数过高，会造成龙格现象。尽管我们可以选择分段的方法避免这种现象，但是更多时候我们更倾向于得到-个确定的曲线，尽管这条曲线不能经过每一个样本点，但只要保证误差足够小即可，这就是拟合的思想。(拟合的结果是得到一个确定的曲线)
力扣刷题--1534. 统计好三元组【简单】
m0_75266675的博客
09-04 328
力扣刷题--1534. 统计好三元组【简单】
L3*系统中逻辑度量空间的拓扑特性分析
在数学的数理逻辑领域，L3*系统是一种用来研究逻辑结构的模型，它涉及到多值逻辑，其中的值不只是通常的真或假，而是有三个或更多可能的值。这篇2010年的论文聚焦于在这个系统中定义的逻辑度量空间（F(S)，p3），...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值