7.sklearn-逻辑回归、精确率和召回率、ROC曲线和AUC指标

最新推荐文章于 2024-09-14 22:52:49 发布
最新推荐文章于 2024-09-14 22:52:49 发布
阅读量409 收藏 11
点赞数 16
分类专栏： 深度学习 文章标签： sklearn 逻辑回归 人工智能
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/ls3614140/article/details/142110099
版权

文章目录

环境配置（必看）

Anaconda-创建虚拟环境的手把手教程相关环境配置看此篇文章，本专栏深度学习相关的版本和配置，均按照此篇文章进行安装。

头文件引用

from sklearn.datasets import load_breast_cancer
from sklearn.model_selection import train_test_split
from sklearn.preprocessing import StandardScaler
from sklearn.linear_model import LogisticRegression
from sklearn.metrics import classification_report, roc_auc_score

1.逻辑回归

	逻辑回归（Logistic Regression）是机器学习中的一种分类模型，逻辑回归是一种分类算法，虽然名字中
带有回归。由于算法的简单和高效，在实际中应用非常广泛。

1.1 API介绍

在这里插入图片描述

1.2 代码实现

# 获取数据
breast_data = load_breast_cancer()
# print(f"breast_data.target = \n {breast_data.target}")
# print(f"breast_data.target_names = \n {breast_data.target_names}")

# 划分数据集
x_train, x_test, y_train, y_test = train_test_split(breast_data.data, breast_data.target, test_size=0.2)
# print(x_test.shape)

# 特征工程
transfer = StandardScaler()
x_train = transfer.fit_transform(x_train)
x_test = transfer.transform(x_test)
# print(f"x_train = \n {x_train}")

# 预估器
estimator = LogisticRegression()
estimator.fit(x_train, y_train)

# 得出模型
print(f"回归系数： {estimator.coef_}")
print(f"偏置： {estimator.intercept_}")

# 模型评估
# 方法1：真实值和预测值做对比
y_predict = estimator.predict(x_train)
# print(f"y_predict = {y_predict}")
# print(f"真实值和预测值做对比 = \n {y_train == y_predict}")
# 方法2：计算准确率
score = estimator.score(x_test, y_test)
print(f"score = {score}")

1.3 运行结果

可以看出准确率：98.24%
在这里插入图片描述

2.分类评估方法

2.1 精确率(Precision)

真正例（TP）
伪反例（FN）
伪正例（FP）
真反例（TN）

精确率：预测结果为正例样本中真实为正例的比例（了解）

在这里插入图片描述

2.2 召回率(Recall)

召回率：真实为正例的样本中预测结果为正例的比例（查得全，对正样本的区分能力）

在这里插入图片描述

2.3 F1-score

F1-score，反映了模型的稳健型

在这里插入图片描述

2.4 分类评估报告api

在这里插入图片描述

2.5 代码工程

# 获取数据
breast_data = load_breast_cancer()
print(f"breast_data.target = \n {breast_data.target}")
# print(f"breast_data.target_names = \n {breast_data.target_names}")

# 划分数据集
x_train, x_test, y_train, y_test = train_test_split(breast_data.data, breast_data.target, test_size=0.2)
# print(x_test.shape)

# 特征工程
transfer = StandardScaler()
x_train = transfer.fit_transform(x_train)
x_test = transfer.transform(x_test)
# print(f"x_train = \n {x_train}")

# 预估器
estimator = LogisticRegression()
estimator.fit(x_train, y_train)

# 得出模型
print(f"回归系数： {estimator.coef_}")
print(f"偏置： {estimator.intercept_}")

# 模型评估
# 方法1：真实值和预测值做对比
y_predict = estimator.predict(x_test)
# print(f"y_predict = {y_predict}")
# print(f"真实值和预测值做对比 = \n {y_train == y_predict}")
# 方法2：计算准确率
score = estimator.score(x_test, y_test)
print(f"score = {score}")

# 查看精确率和召回率
report = classification_report(y_test, y_predict, labels=[0, 1], target_names=["阴性", "阳性"])
print(f"report = \n {report}")

2.6 运行结果

precision: 精确率 阴性=0.98 阳性=0.99
recall:    召回率 阴性=0.98 阳性=0.99
F1-score： 稳定性 阴性=0.98 阳性=0.99
support: 样本数量 阴性=44   阳性=70		（测试样本共114个）

关注的是阳性的召回率：0.99
在这里插入图片描述

3.ROC曲线与AUC指标

3.1 TPR和FPR

TPR = TP / (TP + FN)	所有真实类别为1的样本中，预测类别为1的比例 （召回率）

FPR = FP / (FP + TN)	所有真实类别为0的样本中，预测类别为1的比例

3.2 ROC曲线

ROC曲线的横轴就是FPRate，纵轴就是TPRate，当二者相等时，表示的意义则是：对于不论真实类别是1还是0的样本，分类器预测为1的概率是相等的，此时AUC为0.5

在这里插入图片描述

3.3 AUC指标

注：ROC的面积就是AUC的指标

AUC的概率意义是随机取一对正负样本，正样本得分大于负样本得分的概率
AUC的范围在[0, 1]之间，并且越接近1越好，越接近0.5属于乱猜
AUC=1，完美分类器，采用这个预测模型时，不管设定什么阈值都能得出完美预测。绝大多数预测的场合，不存在完美分类器。
0.5<AUC<1，优于随机猜测。这个分类器（模型）妥善设定阈值的话，能有预测价值。

3.4 AUC计算API

注意：y_true的值要求必须是0或1，如果你的数据不符合要求可以使用

# 如果y_test的特征值是2和4，可以采用下面一行代码转化为0和1
y_true = np.where(y_test > 3, 1, 0)

在这里插入图片描述

3.5 代码工程

# 获取数据
breast_data = load_breast_cancer()
print(f"breast_data.target = \n {breast_data.target}")
# print(f"breast_data.target_names = \n {breast_data.target_names}")

# 划分数据集
x_train, x_test, y_train, y_test = train_test_split(breast_data.data, breast_data.target, test_size=0.2)
# print(x_test.shape)

# 特征工程
transfer = StandardScaler()
x_train = transfer.fit_transform(x_train)
x_test = transfer.transform(x_test)
# print(f"x_train = \n {x_train}")

# 预估器
estimator = LogisticRegression()
estimator.fit(x_train, y_train)

# 得出模型
print(f"回归系数： {estimator.coef_}")
print(f"偏置： {estimator.intercept_}")

# 模型评估
# 方法1：真实值和预测值做对比
y_predict = estimator.predict(x_test)
# print(f"y_predict = {y_predict}")
# print(f"真实值和预测值做对比 = \n {y_train == y_predict}")
# 方法2：计算准确率
score = estimator.score(x_test, y_test)
print(f"score = {score}")

# 查看精确率和召回率
report = classification_report(y_test, y_predict, labels=[0, 1], target_names=["阴性", "阳性"])
print(f"report = \n {report}")

# 查看AUC指标
auc = roc_auc_score(y_test, y_predict)
print(f"auc = {auc}")

3.6 运行结果

可以看出auc = 0.97 接近1，说明这个模型的效果还不错
在这里插入图片描述

3.7 小结

AUC只能用来评价二分类
AUC非常适合评价样本不平衡中的分类器性能

本章学习资源

黑马程序员3天快速入门python机器学习我是跟着视频进行的学习，欢迎大家一起来学习！

编程开发者
关注
专栏目录
『NLP学习笔记』Sklearn计算准确率、精确率、召回率及F1 Score
AI新视界
12-07 9984
分类是机器学习中比较常见的任务，对于分类任务常见的评价指标有 准确率(Accuracy)、精确率(Precision)、召回率(Recall)、F1 score、ROC曲线(Receiver Operating Characteristic Curve)等。
【机器学习Q&A】准确率、精确率、召回率、ROC和AUC
小哲的博客
06-28 828
评价指标的局限性问题1：准确率的局限性问题2：精确率与召回率的权衡问题3：平方根误差的“意外”参考资料 评价指标是针对将相同的数据，输入不同的算法模型，或者输入不同参数的同一种算法模型，而给出这个算法或者参数好坏的定量指标。 在模型评估过程中，往往需要使用多种不同的指标进行评估，在诸多的评价指标中，大部分指标只能片面的反应模型的一部分性能，如果不能合理的运用评估指标，不仅不能发现模型本身的问题，而且会得出错误的结论。 本文将详细介绍机器学习分类任务的常用评价指标：准确率（Accuracy）、精确率（Prec
机器学习实践（十五）—sklearn之分类算法-逻辑回归、精确率、召回率、ROC、AUC
醒途
12-01 6547
逻辑回归虽然名字中带有回归两字，但它实际是一个分类算法。 一、逻辑回归的应用场景 广告点击率 是否为垃圾邮件 是否患病 金融诈骗 虚假账号 看到上面的例子，我们可以发现其中的特点，那就是都属于两个类别之间的判断。 逻辑回归就是解决二分类问题的利器 二、逻辑回归的原理 输入 逻辑回归的输入其实就是线性回归 即： hθ(x)=θTx h_\theta(x)=\theta^Tx hθ​(x)=...
机器学习算法 03 —— 逻辑回归算法(精确率和召回率、ROC曲线和AUC指标、过采样和欠采样)
热门推荐
zcy的博客
08-14 1万+
文章目录系列文章逻辑回归1 逻辑回归介绍1.1 逻辑回归原理输入激活函数1.2 损失以及优化2 逻辑回归API介绍3 案例：肿瘤良性恶性预测4 分类模型的评估4.1 分类评估方法混淆矩阵准确率精确率召回率F1-score4.2 分类评估API4.3 ROC曲线和AUC指标TPR与FPRROC曲线AUC指标绘制ROC曲线补充：解决类别不平衡问题1 构造不平衡数据集2 解决类别不平衡的方法过采样欠采样 系列文章 机器学习算法 01 —— K-近邻算法(数据集划分、归一化、标准化) 机器学习算法 02 —— 线
混淆矩阵-ROC曲线、召回率、精确率、准确率
m0_56878426的博客
06-16 1352
混淆矩阵的主要性能指标准确率：模型正确分类的样本占总样本数的比例，准确率衡量了模型在所有样本上的整体表现精确率：模型预测为正类别的样本中实际是正类别的概率，精确率衡量了模型在预测为正类别的样本上的准确性召回率：实际为正类别的样本中，正确预测为正样本的概率，召回度衡量了在实际为正样本中正确预测为正样本的预测概率F1分数：精确率和召回率的调和平均数，F1分数衡量了精确率和召回率之间的平衡混淆矩阵和上述性能指标共同提供了对分类模型性能全面的理解，并帮助评估模型的优缺点，进而进一步优化模型机器学习，周志华。
sklearn【AUC-ROC】原理，以及绘制ROC曲线！
高级数据分析师，分享Python知识
04-18 1848
在分类任务中，特别是当数据集中的类别分布不平衡时，评估模型的性能变得尤为重要。AUC-ROC（Area Under the Receiver Operating Characteristic Curve，受试者工作特征曲线下的面积）是一种有效的评估指标，能够全面反映模型在不同分类阈值下的性能，并特别适用于不平衡类别的场景。本文将介绍如何使用sklearn库来计算AUC-ROC，并解释其背后的计算原理。首先，我们需要理解AUC-ROC的计算方式和其背后的含义。
精确率、召回率、F1 值、ROC、AUC
rs勿忘初心的博客
01-07 2250
参考：一文让你彻底理解准确率，精准率，召回率，真正率，假正率，ROC/AUC 待整理学习
prc曲线 sklearn_机器学习性能指标精确率、召回率、F1值、ROC、PRC与AUC--周振洋
weixin_31293841的博客
02-28 939
精确率、召回率、F1、AUC和ROC曲线都是评价模型好坏的指标,那么它们之间有什么不同，又有什么联系呢。下面让我们分别来看一下这几个指标分别是什么意思。针对一个二分类问题，将实例分成正类(postive)或者负类(negative)。但是实际中分类时，会出现四种情况.(1)若一个实例是正类并且被预测为正类，即为真正类(True Postive TP)(2)若一个实例是正类，但是被预测成为负类，即为...
sklearn（15）分类算法-逻辑回归、精确率、召回率、ROC、AUC
weixin_44285715的博客
09-21 966
https://blog.csdn.net/qq_28827635/article/details/84679726 https://blog.csdn.net/weixin_41666747/article/details/88791940 转载的博客链接仅供个人学习方便，如有侵犯请联系删除 ...
混淆矩阵、准确率、精确率、召回率、F值、ROC曲线、AUC、PR曲线-Sklearn.metrics评估方法 - 简书.mhtml
11-01
混淆矩阵、准确率、精确率、召回率、F值、ROC曲线、AUC、PR曲线-Sklearn.metrics评估方法 - 简书.mhtml
python sklearn逻辑回归 sgd和lr_python之sklearn-分类算法-3.4 逻辑回归与二分类
weixin_39856208的博客
12-20 445
一，逻辑回归的应用场景广告点击率是否为垃圾邮件是否患病金融诈骗虚假账号二，逻辑回归的原理1，输入逻辑回归的输入是线性回归的结果：2，激活函数1)sigmoid函数回归的结果输入到sigmod函数当中输出结果：[0，1]区间中的一个概率值，默认为0.5的门限值2)注意：逻辑回归的最终分类是通过某个类别的概率来判断是否属于某个类别，并且这个类别默认标记为1(正例)，另一个标记为0(反例)。默认目标值少...
Sklearn的datasets模块与自带数据集介绍
Sun_Weiss的博客
09-10 801
sklearn的datasets模块下，有一些自带的经典数据集，可以用load_xxx()形式的函数加载，本文介绍了这些经典数据集的内容、特征，以及加载它们的代码。
✨机器学习笔记（四）—— 逻辑回归、决策边界、过拟合、正则化
最新发布
qq_53569667的博客
09-14 613
吴恩达机器学习笔记，本节涵盖逻辑回归、决策边界、过拟合、正则化，并以最简单的方式讲解，希望能够帮助理解。
生成式人工智能在新加坡的发展现状和地位
wukangjupingbb的博客
09-11 985
依据国际隐私专业人员协会(IAPP)的相关报告，2020年，上述两机构更新了该模型框架，发布了第二版，并推出了《组织实施和自我评估指南》，帮助组织评估其人工智能治理实践与型框架的匹配程度，还发布了《案例汇编》，展示了组织如何实施负责任的人工智能治理实践。2019年，金融管理局宣布与金融行业合作创建Veritas框架，为金融机构提供可验证的方法，将FEAT原则纳入其人工智能和数据分析驱动的解决方案中。新加坡在人工智能治理方面采取了部门性的方法，即通过各个行业的监管机构来管理人工智能的使用。
从AI到大数据，数字技术服务平台全栈赋能企业升级
smjt2024的博客
09-11 563
海量的数据中蕴含着丰富的信息和价值，数字技术服务平台能够收集、整理和分析这些数据，为企业提供精准的市场洞察和决策支持。企业可以通过参加树莓集团举办的培训课程和研讨会，了解最新的数字技术趋势和应用案例，提升自身的数字技术水平。从技术咨询、解决方案设计到系统实施和运维，数字技术服务平台为企业提供一站式的服务，让企业无需担心技术难题，专注于自身的核心业务。树莓集团的数字技术服务平台，以其先进的技术、专业的服务和丰富的经验，为企业提供了全栈赋能。在数字时代，让我们共同利用数字技术服务平台，开启企业升级的新篇章。
Djourney新手入门基础，AI摄影+AI设计+AI绘画-AIGC作图
DAMOXINGHAITAI的博客
09-14 796
（全套教程文末领取哈）从大模型系统设计入手，讲解大模型的主要方法；在通过大模型提示词工程从Prompts角度入手更好发挥模型的作用；大模型平台应用开发借助阿里云PAI平台构建电商领域虚拟试衣系统；大模型知识库应用开发以LangChain框架为例，构建物流行业咨询智能问答系统；大模型微调开发借助以大健康、新零售、新媒体领域构建适合当前领域大模型；以SD多模态大模型为主，搭建了文生图小程序案例；以大模型平台应用与开发为主，通过星火大模型，文心大模型等成熟大模型构建大模型行业应用。
常见本地大模型个人知识库工具部署、微调及对比选型
09-14 783
由于作者的眼界、精力和能力也有限，并且确实也不是专业的AI研究员，仅仅是一位兴趣使然的爱好者，这里列出的几款也单纯只是作者平常关注到的，所以可能也不全，请各位见谅！文章从起笔写到这里已经过了三天了，这三天也基本把上文提到的大模型侧工具全部体验了一遍，下面说一下主要结论吧。从功能丰富度和性能优化的角度综合评估，LM Studio明显更胜一筹。从工具本身使用及模型部署效率来看，Ollama的上手速度会更快，使用会更便捷，效率也会更高。从企业级稳定性和高可用。
有用的批量合并视频重命名以及有用的提取音频。遍历指定文件夹下所有视频文件，先合并归一化再生成包含包含说话人的srt格式的文件
东方
09-11 408
定义filename为"E:\四1班—吴希敏"遍历这个文件夹"E:\四1班—吴希敏"且包含多个层级目录的视频文件，重命名的时候把filename以及子文件夹目录的名字以及视频的名字一起命名，并统一把视频全部移动到filename下面。
对pandas读取的数据进行逻辑回归评价预测，包括精确率与召回率、F1-score、ROC曲线与AUC指标代码
06-09
并将其分成训练集和测试集，使用Scikit-learn库中的LogisticRegression类进行模型训练和预测，最后通过Scikit-learn库中的指标函数计算了预测结果的准确率、精确率、召回率、F1-score和AUC指标，同时绘制了ROC曲线。...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值