python sklearn 逻辑回归

最新推荐文章于 2024-03-28 00:45:34 发布
最新推荐文章于 2024-03-28 00:45:34 发布
阅读量1k 收藏 7
点赞数 2
文章标签： python 机器学习 人工智能 逻辑回归
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_35929427/article/details/108110216
版权

EDA
简单描述

df.describe()

## 特征与标签组合的散点可视化
sns.pairplot(data=iris_all,diag_kind='hist', hue= 'target')
plt.show()

在这里插入图片描述
通过上图能够分析出不同的二维的特征组合对于目标类别的区分能力

箱型图查看数据分布

for col in iris_features.columns:
    sns.boxplot(x='target', y=col, saturation=0.5, 
palette='pastel', data=iris_all)
    plt.title(col)
    plt.show()

在这里插入图片描述

python建立机器学习模型需要先定义模型及参数，然后进行训练

##定义逻辑回归模型
clf=LogisticRegression(random_state=0,solver='lbfgs')

##在训练集上训练逻辑回归模型
clf.fit(x_train,y_train)

获取逻辑回归的参数的拟合结果

##查看其对应的w
print('the weight of Logistic Regression:',clf.coef_)

##查看其对应的w0
print('the intercept(w0) of Logistic Regression:',clf.intercept_)

绘制混淆矩阵的图像

##查看混淆矩阵
confusion_matrix_result=metrics.confusion_matrix(test_predict,y_test)
print('The confusion matrix result:\n',confusion_matrix_result)

##利用热力图对于结果进行可视化
plt.figure(figsize=(8,6))
sns.heatmap(confusion_matrix_result,annot=True,cmap='Blues')
plt.xlabel('Predicted labels')
plt.ylabel('True labels')
plt.show()

##The confusion matrix result:
##[[10  0   0]
##[0   8   2] 
##[0   2   8]]

在这里插入图片描述
预测概率和预测类别
predict_proba()
predict()

准确度的概念
IV、F1

逻辑回归的原理
Logistic函数（或称为Sigmoid函数）：
在这里插入图片描述
对应的函数图像
在这里插入图片描述
在这里插入图片描述
逻辑回归的本质其实就是求w参数。先用w参数对自变量做线性变换，然后把这个变换后的值作为sigmoid函数的参数
在这里插入图片描述
对于模型的训练而言：实质上来说就是利用数据求解出对应的模型的特定的ω。从而得到一个针对于当前数据的特征逻辑回归模型。

而对于多分类而言，将多个二分类的逻辑回归组合，即可实现多分类。

二分类/多分类逻辑回归完整代码

# -*- coding: utf-8 -*-
"""
Created on Wed Aug 19 20:35:27 2020

@author: Berlin Lee
"""
#%% Step1：函数库导入
##  基础函数库
import numpy as np 
import pandas as pd

## 绘图函数库
import matplotlib.pyplot as plt
import seaborn as sns

#%% Step2：数据读取/载入
##我们利用sklearn中自带的iris数据作为数据载入，并利用Pandas转化为DataFrame格式
from sklearn.datasets import load_iris
data = load_iris() #得到数据特征
iris_target = data.target #得到数据对应的标签
iris_features = pd.DataFrame(data=data.data, columns=data.feature_names) #利用Pandas转化为DataFrame格式

#%% Step3：数据信息简单查看
##利用.info()查看数据的整体信息
iris_features.info()

##<class'pandas.core.frame.DataFrame'>
##RangeIndex:150entries,0to149
##Datacolumns(total4columns):
###ColumnNon-NullCountDtype
##----------------------------
##0sepallength(cm)150non-nullfloat64
##1sepalwidth(cm)150non-nullfloat64
##2petallength(cm)150non-nullfloat64
##3petalwidth(cm)150non-nullfloat64
##dtypes:float64(4)
##memoryusage:4.8KB

#%%
##其对应的类别标签为，其中0，1，2分别代表'setosa','versicolor','virginica'三种不同花的类别

iris_target


##array([0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,


##0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,0,


##0,0,0,0,0,0,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,


##1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,1,


##1,1,1,1,1,1,1,1,1,1,1,1,2,2,2,2,2,2,2,2,2,2,


##2,2,2,2,2,2,2,2,2,2,2,2,2,2,2,2,2,2,2,2,2,2,


##2,2,2,2,2,2,2,2,2,2,2,2,2,2,2,2,2,2])

#%%
##利用value_counts函数查看每个类别数量

pd.Series(iris_target).value_counts()

##2    50

##1    50

##0    50

##dtype:int64

#%%
##对于特征进行一些统计描述

iris_features.describe()

#%% Step4:可视化描述
## 合并标签和特征信息
iris_all = iris_features.copy() ##进行浅拷贝，防止对于原始数据的修改
iris_all['target'] = iris_target

#%%
## 特征与标签组合的散点可视化
sns.pairplot(data=iris_all,diag_kind='hist', hue= 'target')
plt.show()

#%%
for col in iris_features.columns:
    sns.boxplot(x='target', y=col, saturation=0.5, 
palette='pastel', data=iris_all)
    plt.title(col)
    plt.show()
    
#%% Step5:利用 逻辑回归模型 在二分类上 进行训练和预测
##为了正确评估模型性能，将数据划分为训练集和测试集，并在训练集上训练模型，在测试集上验证模型性能。
from sklearn.model_selection import train_test_split
##选择其类别为0和1的样本（不包括类别为2的样本）
iris_features_part=iris_features.iloc[:100]
iris_target_part=iris_target[:100]
##测试集大小为20%，80%/20%分
x_train,x_test,y_train,y_test=train_test_split(iris_features_part,iris_target_part,test_size=0.2,random_state=2020)

##从sklearn中导入逻辑回归模型
from sklearn.linear_model import LogisticRegression
##定义逻辑回归模型
clf=LogisticRegression(random_state=0,solver='lbfgs')
##在训练集上训练逻辑回归模型
clf.fit(x_train,y_train)
##查看其对应的w
print('the weight of Logistic Regression:',clf.coef_)

##查看其对应的w0
print('the intercept(w0) of Logistic Regression:',clf.intercept_)

##在训练集和测试集上分布利用训练好的模型进行预测
train_predict=clf.predict(x_train)
test_predict=clf.predict(x_test)
from sklearn import metrics
##利用accuracy（准确度）【预测正确的样本数目占总预测样本数目的比例】评估模型效果
print('The accuracy of the Logistic Regression is:',metrics.accuracy_score(y_train,train_predict))
print('The accuracy of the Logistic Regression is:',metrics.accuracy_score(y_test,test_predict))

##查看混淆矩阵(预测值和真实值的各类情况统计矩阵)
confusion_matrix_result=metrics.confusion_matrix(test_predict,y_test)
print('The confusion matrix result:\n',confusion_matrix_result)

##利用热力图对于结果进行可视化
plt.figure(figsize=(8,6))
sns.heatmap(confusion_matrix_result,annot=True,cmap='Blues')
plt.xlabel('Predictedlabels')
plt.ylabel('Truelabels')
plt.show()

##The accuracy of the Logistic Regressionis:1.0
##The accuracy of the Logistic Regressionis:1.0
##The confusion matrix result:
##[[9  0]
##[0  11]]

#%% Step6:利用 逻辑回归模型 在三分类(多分类)上 进行训练和预测
##测试集大小为20%，80%/20%分
x_train,x_test,y_train,y_test=train_test_split(iris_features,iris_target,test_size=0.2,random_state=2020)
##定义逻辑回归模型
clf=LogisticRegression(random_state=0,solver='lbfgs')

##查看其对应的w
print('the weight of Logistic Regression:\n',clf.coef_)
##查看其对应的w0
print('the intercept(w0) of Logistic Regression:\n',clf.intercept_)
##由于这个是3分类，所有我们这里得到了三个逻辑回归模型的参数，其三个逻辑回归组合起来即可实现三分类

##在训练集和测试集上分布利用训练好的模型进行预测
train_predict=clf.predict(x_train)
test_predict=clf.predict(x_test)
##由于逻辑回归模型是概率预测模型（前文介绍的p=p(y=1|x,\theta)）,所有我们可以利用predict_proba函数预测其概率

train_predict_proba=clf.predict_proba(x_train)
test_predict_proba=clf.predict_proba(x_test)

print('The test predict Probability of each class:\n',test_predict_proba)
##其中第一列代表预测为0类的概率，第二列代表预测为1类的概率，第三列代表预测为2类的概率。

##利用accuracy（准确度）【预测正确的样本数目占总预测样本数目的比例】评估模型效果
print('The accuracy of the Logistic Regression is:',metrics.accuracy_score(y_train,train_predict))
print('The accuracy of the Logistic Regression is:',metrics.accuracy_score(y_test,test_predict))

##查看混淆矩阵
confusion_matrix_result=metrics.confusion_matrix(test_predict,y_test)
print('The confusion matrix result:\n',confusion_matrix_result)

##利用热力图对于结果进行可视化
plt.figure(figsize=(8,6))
sns.heatmap(confusion_matrix_result,annot=True,cmap='Blues')
plt.xlabel('Predicted labels')
plt.ylabel('True labels')
plt.show()

##The confusion matrix result:
##[[10  0   0]
##[0   8   2] 
##[0   2   8]]
qq_35929427
关注
  • 2
    点赞
  • 踩
  • 7
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Python实现逻辑回归实战(完整版)--内附详细代码
weixin_38232619的博客
11-30 7001
Hello大家！上一篇小A已经详细的为大家讲解了逻辑回归的原理和数学推导，但是对于学习人工智能来说仅仅学会原理是远远不够的，还必须要动手实践，必须要学会使用编程语言将算法实现。所以，今天我就来为大家展示一下使用python进行逻辑回归的实现。
python sklearn库实现简单逻辑回归的实例代码
12-31
Sklearn简介 Scikit-learn(sklearn)是机器学习中常用的第三方模块，对常用的机器学习方法进行了封装，包括回归(Regression)、降维(Dimensionality Reduction)、分类(Classfication)、聚类(Clustering)等方法。当我们面临机器学习问题时，便可根据下图来选择相应的方法。 Sklearn具有以下特点： 简单高效的数据挖掘和数据分析工具 让每个人能够在复杂环境中重复使用 建立NumPy、Scipy、MatPlotLib之上 代码如下所示： import xlrd import matplotlib.pyplot
逻辑回归算法python实战（简单版）sklearn
11-19
这是个人学习逻辑回归时写的代码，主要时用的sklearn包。很简单的代码，只适合初学者。
python逻辑回归代码
05-30
iris 鸢尾花数据，利用python编写的逻辑回归代码，有图。
python使用sklearn进行逻辑回归
wanlmx的博客
07-03 390
在逻辑回归部分，使用的数据集为自定义的房屋租金和面积相关的数据集，在实验初始阶段会。标准化数据，保证每个维度的特征数据方差为。使得预测结果不会被某些维度过。查看标准化处理后的数据。
Python实现逻辑回归(Logistic Regression)
最新发布
DUT_LYH
03-28 1681
逻辑回归作为一种经典的分类方法，在许多领域都有广泛的应用。集成学习：将逻辑回归与其他机器学习算法结合，提高分类性能。模型优化：通过正则化、特征选择等方法，提高模型的泛化能力。模型解释性：提高逻辑回归模型的解释性，使其在敏感领域（如医疗、金融）中的应用更加广泛。数据不平衡：在实际应用中，数据不平衡是一个常见问题，需要采用过采样、欠采样或合成新样本等方法来解决。特征选择：选择合适的特征对逻辑回归模型的性能至关重要，需要采用特征选择方法来提高模型性能。
python机器学习库sklearn——逻辑回归
热门推荐
全栈工程师开发手册（原创）https://github.com/tencentmusic/cube-studio
01-05 1万+
全栈工程师开发手册 （作者：栾鹏） python数据挖掘系列教程 逻辑分类的相关的知识内容可以参考 http://blog.csdn.net/luanpeng825485697/article/details/78957577 这里只讲述sklearn中如何使用逻辑回归进行分类预测。包含2种分类结果 # -*- coding: UTF-8 -*- import numpy
sklearn实现逻辑回归_以python为工具【Python机器学习系列（十）】
侯小啾技术博客
08-17 3717
sklearn实现逻辑回归_以python为工具【Python机器学习系列（十）】1.线性逻辑回归 2.非线性逻辑回归 3.乳腺癌数据集案例
sklearn实现逻辑回归
HRMEMEDA的博客
05-18 4537
逻辑回归（logistics regression）属于机器学习中的监督算法，虽然名字中带有“回归”二字，但却干着分类的活~这主要是由于sigmod和softmax函数的特点，可以将任意实数映射到（0，1）区间，这样我们就可以得到一个概率值，根据概率的大小，再结合定下的阈值，就可以进行分类。具体的理论就不多说啦，这里主要介绍Python中的sklearn如何实现二分类逻辑回归。来，话不多说，上代码~ 一、导入各种包 import numpy as np import matplotlib.pyplot
【机器学习之逻辑回归】sklearn+python逻辑回归详解
qq_43018832的博客
12-06 5165
逻辑回归也称作logistic回归分析，是一种广义的线性回归分析模型，属于机器学习中的监督学习。其推导过程与计算方式类似于回归的过程，但实际上主要是用来解决二分类问题（也可以解决多分类问题）。通过给定的n组数据（训练集）来训练模型，并在训练结束后对给定的一组或多组数据（测试集）进行分类。逻辑回归，是一种“回归”的线性分类器，其本质是由线性回归变化而来的，一种广泛应用于分类问题中的回归算法。我们都知道线性回归是预测连续性标签值，计算方法如下： 通过函数y，线性回归使用输入的特征矩阵x来输出一组连续的标签值y
机器学习二（python sklearn逻辑回归）
bjjoy2009的博客
06-14 6029
1.前言 看了Andrew ng的课程，用python sklearn总结一下逻辑回归。这就不说理论了，直接上py代码 2.环境配置 不多说，用的python3.x，numpy包，环境下载pycharm，然后file-&gt;setting-&gt;Project Interpreter-&gt;右侧绿色+号-&gt;搜索输入需要的包进行安装，然后可能有报错日志，根据日志循环上述过程安装缺少...
Python使用sklearn实现的各种回归算法示例
09-19
主要介绍了Python使用sklearn实现的各种回归算法,结合实例形式分析了Python使用sklearn库实现的决策树回归、线性回归、SVM回归、KNN回归、随机森林回归等各种回归算法,需要的朋友可以参考下
python实现逻辑回归的示例
12-16
from sklearn.datasets.samples_generator import make_classification def initialize_params(dims): w = np.zeros((dims, 1)) b = 0 return w, b def sigmoid(x): z = 1 / (1 + np.exp(-x)) return z def ...
逻辑回归_逻辑回归_python_
10-04
python经典逻辑回归算法，来源于sklearn包函数，具有一定学习价值
逻辑回归的python实现
abc2009518的博客
12-03 119
结果为定义逻辑回归优化算法，并进行训练。
【机器学习】【逻辑回归】Python使用sklearn实战演练逻辑回归算法
weixin_62100318的博客
01-17 497
几乎所有的分类问题都可以使用逻辑回归来实现 相对于神经网络与支持向量机其内部含义更好解释 不会和一个黑箱一般难以解释 解释性较强。虽然是回归但最终依旧是分类问题，因为所使用的Sigmoid函数可以将数值转为概率后再进行判断其类别。① 构建坐标数据，合理的范围当中，根据实际训练时输入数据来决定。承接上面，依旧使用鸢尾花数据集利用softmax解决多分类问题。②整合坐标点，得到所有测试输入数据坐标点。逻辑回归主要用于解决经典二分类问题。③预测，得到所有点的概率值。④绘制等高线，完成决策边界。
Python-sklearn模块-逻辑回归
m0_58786865的博客
01-28 1341
Python-sklearn模块-逻辑回归导入模块准备X的数据准备y的数据创建逻辑回归模型填充数据并训练准备用于测试的数据判断测试数据 导入模块 import numpy as np from sklearn.linear_model import LogisticRegression 准备X的数据 X = np.array([ [60], [20], [30], [80], [59], [90] ]) 准备y的数据 y = np.array([1, 0, 0, 1, 0, 1]) 创建逻辑回归模型 df
sklearn逻辑回归参数详解，及用逻辑回归制作评分卡
R18830287035的博客
04-16 4545
1 导库，获取数据 %matplotlib inline import numpy as np import pandas as pd from sklearn.linear_model import LogisticRegression as LR #其实日常在导库的时候，并不是一次性能够知道我们要用的所有库的。通常都是在建模过程中逐渐导入需要的库。 data = pd.read_csv(r"...
python sklearn逻辑回归
06-28
scikit-learn（sklearn）是一个开源的Python机器学习库，它包含了逻辑回归算法。逻辑回归是一种用于二分类问题的有监督学习算法，通过对输入特征进行线性加权，并对结果进行阈值分类，来预测样本属于哪个类别。 ...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值