利用python实现svm5维交叉验证 源代码

最新推荐文章于 2023-09-25 23:33:04 发布
最新推荐文章于 2023-09-25 23:33:04 发布
阅读量3.5k 收藏 7
点赞数 1
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/fengkuangdexiaoji123/article/details/81095189
版权 

import numpy as np
from sklearn import svm
import h5py
import math
# import scipy.io
# data = scipy.io.loadmat('D:\matlab\dataset and results\Yeast\data_DCT.mat')
# data=np.array(data['data_DCT'])
data = h5py.File('D:\data_DCT_PCA.mat')
data = np.transpose(data['data_DCT'])
target = np.zeros((data.shape[0],1))
data2 = np.zeros((data.shape[0],data.shape[1]-1))
for i in range(data.shape[0]):
	for j in range(data.shape[1]-1):
		data2[i][j]=data[i][j+1]

for i in range(0,data.shape[0]):
	target[i][0]=data[i][0]
flodnum=5
permutation = np.random.permutation(target.shape[0])
data2 = data2[permutation,:]
target = target[permutation]
length=int((data2.shape[0])/flodnum)
length1=int((target.shape[0])/flodnum)
data2_1=data2[1:length,:]
data2_2=data2[length+1:length*2,:]
data2_3=data2[length*2+1:length*3,:]
data2_4=data2[length*3+1:length*4,:]
data2_5=data2[length*4+1:length*5,:]
########################################
target_1=target[1:length,:]
target_2=target[length+1:length*2,:]
target_3=target[length*2+1:length*3,:]
target_4=target[length*3+1:length*4,:]
target_5=target[length*4+1:length*5,:]
#####################################   1
X_train=np.row_stack((data2_2,data2_3,data2_4,data2_5))
X_test=data2_1
y_train=np.row_stack((target_2,target_3,target_4,target_5))
y_test=target_1
#, X_test, y_train, y_test = train_test_split(data2_1, target_1, test_size=0.40, random_state=0)
cls = svm.SVC(kernel='rbf', C=0.5,gamma=10)
cls.fit(X_train,y_train)
y_hat = cls.predict(X_test)
y_hat=y_hat.reshape(y_test.shape[0],1)
TP = 0
FP = 0
TN = 0
FN = 0
for i in range(y_test.shape[0]):
	if y_hat[i][0]==y_test[i][0]==1:
		TP=TP+1
	if y_hat[i][0]==y_test[i][0]==-1:
		TN=TN+1
	if y_hat[i][0]==1 and y_test[i][0]==-1:
		FP=FP+1
	if y_hat[i][0]==-1 and y_test[i][0]==1:
		FN=FN+1
ACC=(TP+TN)/(TP+TN+FP+FN)
SN=TP/(TP+FN)
PE=TP/(TP+FP)
MCC=((TP*TN)-(FP*FN))/(math.sqrt((TP+FN)*(TN+FP)*(TP+FP)*(TN+FN)))
print("1:")
print(ACC,SN,PE,MCC)
#####################################2
#####################################   1
X_train=np.row_stack((data2_1,data2_3,data2_4,data2_5))
X_test=data2_2
y_train=np.row_stack((target_1,target_3,target_4,target_5))
y_test=target_2
#, X_test, y_train, y_test = train_test_split(data2_1, target_1, test_size=0.40, random_state=0)
cls = svm.SVC(kernel='rbf', C=0.5,gamma=10)
cls.fit(X_train,y_train)
y_hat = cls.predict(X_test)
y_hat=y_hat.reshape(y_test.shape[0],1)
TP = 0
FP = 0
TN = 0
FN = 0
for i in range(y_test.shape[0]):
	if y_hat[i][0]==y_test[i][0]==1:
		TP=TP+1
	if y_hat[i][0]==y_test[i][0]==-1:
		TN=TN+1
	if y_hat[i][0]==1 and y_test[i][0]==-1:
		FP=FP+1
	if y_hat[i][0]==-1 and y_test[i][0]==1:
		FN=FN+1
ACC=(TP+TN)/(TP+TN+FP+FN)
SN=TP/(TP+FN)
PE=TP/(TP+FP)
MCC=((TP*TN)-(FP*FN))/(math.sqrt((TP+FN)*(TN+FP)*(TP+FP)*(TN+FN)))
print("2:")
print(ACC,SN,PE,MCC)
######################################3
#####################################   1
X_train=np.row_stack((data2_1,data2_2,data2_4,data2_5))
X_test=data2_3
y_train=np.row_stack((target_1,target_2,target_4,target_5))
y_test=target_3
#, X_test, y_train, y_test = train_test_split(data2_1, target_1, test_size=0.40, random_state=0)
cls = svm.SVC(kernel='rbf', C=0.5,gamma=10)
cls.fit(X_train,y_train)
y_hat = cls.predict(X_test)
y_hat=y_hat.reshape(y_test.shape[0],1)
TP = 0
FP = 0
TN = 0
FN = 0
for i in range(y_test.shape[0]):
	if y_hat[i][0]==y_test[i][0]==1:
		TP=TP+1
	if y_hat[i][0]==y_test[i][0]==-1:
		TN=TN+1
	if y_hat[i][0]==1 and y_test[i][0]==-1:
		FP=FP+1
	if y_hat[i][0]==-1 and y_test[i][0]==1:
		FN=FN+1
ACC=(TP+TN)/(TP+TN+FP+FN)
SN=TP/(TP+FN)
PE=TP/(TP+FP)
MCC=((TP*TN)-(FP*FN))/(math.sqrt((TP+FN)*(TN+FP)*(TP+FP)*(TN+FN)))
print("3:")
print(ACC,SN,PE,MCC)
########################################4
#####################################   1
X_train=np.row_stack((data2_1,data2_2,data2_3,data2_5))
X_test=data2_4
y_train=np.row_stack((target_1,target_2,target_3,target_5))
y_test=target_4
#, X_test, y_train, y_test = train_test_split(data2_1, target_1, test_size=0.40, random_state=0)
cls = svm.SVC(kernel='rbf', C=0.5,gamma=10)
cls.fit(X_train,y_train)
y_hat = cls.predict(X_test)
y_hat=y_hat.reshape(y_test.shape[0],1)
TP = 0
FP = 0
TN = 0
FN = 0
for i in range(y_test.shape[0]):
	if y_hat[i][0]==y_test[i][0]==1:
		TP=TP+1
	if y_hat[i][0]==y_test[i][0]==-1:
		TN=TN+1
	if y_hat[i][0]==1 and y_test[i][0]==-1:
		FP=FP+1
	if y_hat[i][0]==-1 and y_test[i][0]==1:
		FN=FN+1
ACC=(TP+TN)/(TP+TN+FP+FN)
SN=TP/(TP+FN)
PE=TP/(TP+FP)
MCC=((TP*TN)-(FP*FN))/(math.sqrt((TP+FN)*(TN+FP)*(TP+FP)*(TN+FN)))
print("4:")
print(ACC,SN,PE,MCC)
#############################################5
#####################################   1
X_train=np.row_stack((data2_1,data2_2,data2_3,data2_4))
X_test=data2_5
y_train=np.row_stack((target_1,target_2,target_3,target_4))
y_test=target_5
#, X_test, y_train, y_test = train_test_split(data2_1, target_1, test_size=0.40, random_state=0)
cls = svm.SVC(kernel='rbf', C=0.5,gamma=10)
cls.fit(X_train,y_train)
y_hat = cls.predict(X_test)
y_hat=y_hat.reshape(y_test.shape[0],1)
TP = 0
FP = 0
TN = 0
FN = 0
for i in range(y_test.shape[0]):
	if y_hat[i][0]==y_test[i][0]==1:
		TP=TP+1
	if y_hat[i][0]==y_test[i][0]==-1:
		TN=TN+1
	if y_hat[i][0]==1 and y_test[i][0]==-1:
		FP=FP+1
	if y_hat[i][0]==-1 and y_test[i][0]==1:
		FN=FN+1
ACC=(TP+TN)/(TP+TN+FP+FN)
SN=TP/(TP+FN)
PE=TP/(TP+FP)
MCC=((TP*TN)-(FP*FN))/(math.sqrt((TP+FN)*(TN+FP)*(TP+FP)*(TN+FN)))
print("5:")
print(ACC,SN,PE,MCC)

代码傻瓜式操作 但是很好理解

小菜姬
关注
  • 1
    点赞
  • 踩
  • 7
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
svm.zip_SVM算法代码_python实现svm_svm python实现_svm python
09-21
该代码实现了经典的SVM支持向量机算法，Python语言编写，产生结果图。
matlab中使用SVM分类器时如何进行交叉验证附代码
最新发布
weixin_48138577的博客
04-06 1044
在机器学习领域，K折交叉验证（K-fold cross validation）是一种常用的模型评估方法。其原理是将原始数据集随机分成K个子集，其中一个子集作为验证集，剩余的K-1个子集作为训练集，进行K次模型训练和验证。参数c与惩罚项有关，而参数g是核函数中的gamma函数设置（这两个参数的取值在代码中已体现）。我们在看论文时，经常会看到文章中出现“5折交叉验证”等字样，那么什么是k折交叉验证呢。注意，我们最终得到是一组参数，即选择最优的c和g，而不是一个model。那么我们为什么要使用k折交叉验证呢？
利用交叉验证寻找SVM最优惩罚因子和松弛因子
AI_dataloads的博客
09-25 377
总体而言，这段代码使用SMOTE进行过采样处理，然后对过采样后的数据进行交叉验证选择最佳参数的SVM模型，在测试集上进行评估并输出分类性能报告。
sklearn svm 调参_【sklearn非线性回归预测】交叉验证评估与调参
weixin_39624873的博客
12-19 570
# -*- coding: utf-8 -*-"""Created on Wed Mar 4 10:49:07 2020@author: 85845"""import numpy as npimport dataprocess as dp # 自己写的数据预处理的模块import pandas as pdimport matplotlib.pyplot as pltfrom sklearn.li...
sklearn-SVM 模型保存、交叉验证与网格搜索
知识搬运者
08-25 1万+
目录 一、sklearn-SVM 1、SVM模型训练 2、SVM模型参数输出 3、SVM模型保存与读取 二、交叉验证与网络搜索 1、交叉验证 1）、k折交叉验证（Standard Cross Validation） 2）、留一法交叉验证（leave-one-out） 3）、打乱划分交叉验证（shufflfle-split cross-validation） 2、交叉验证与网络搜索 1）简单网格搜索： 遍历法 2）其他情况 一、sklearn-SVM 1、SVM模型训练 ...
Keras(六)keras模型封装转化为sklearn模型、使用超参数搜索
TFATS的博客
11-27 1332
本文将介绍： 超参数搜索 手动实现超参数搜索 sklearn封装keras模型 sklearn实现超参数搜索 一，超参数搜索 二，手动实现超参数搜索 三，sklearn封装keras模型 四，sklearn实现超参数搜索
svm 交叉验证 python_使用sklearn的cross_val_score进行交叉验证实例
weixin_39862847的博客
12-09 1744
在构建模型时，调参是极为重要的一个步骤，因为只有选择最佳的参数才能构建一个最优的模型。但是应该如何确定参数的值呢？所以这里记录一下选择参数的方法，以便后期复习以及分享。(除了贝叶斯优化等方法)其它简单的验证有两种方法：1、通过经常使用某个模型的经验和高超的数学知识。2、通过交叉验证的方法，逐个来验证。很显然我是属于后者所以我需要在这里记录一下sklearn 的 cross_val_score：我使...
【代码模版】利用k折交叉验证对SVM中的参数C进行调参
数据分析成长之路
03-05 3843
SVM模型中需要调参的一般为C和kernel，但是kernel99%都是选择’rbf’（径向基核函数，也就是高斯核函数），所以一般只需要对C进行调参。 参数C是SVM近似线性可分情况下松弛因子的参数，原理上C值越小越好 from sklearn.svm import SVC from sklearn.model_selection import cross_val_score # 创建选择最优...
Python实现SVM（源码+数据）.zip
05-03
Python实现SVM（源码+数据）
python-svm-十折交叉验证
01-07
python-svm-十折交叉验证
SVM与交叉验证
05-24
svm参数中的交叉验证法，并结合网格训练进行。
十折交叉验证SVM分类器Matlab代码
05-09
采用了十折交叉验证提高了分类的准确性，分类器分类函数可以替换成Linear，quadratic，rbf函数
SVM鸢尾花分类Python实现
07-06
SVM鸢尾花分类Python实现 基于SVM算法实现鸢尾花数据集分类 包括混淆矩阵输出
手把手教你python实现SVM算法
09-20
【Python实现SVM算法】 机器学习（Machine Learning）是一种让计算机通过学习和适应来改进自身性能的技术，它是人工智能的核心组成部分。机器学习主要包括分类和问题求解两大类任务。支持向量机（Support Vector ...
svm 交叉验证 python_Python机器学习笔记：SVM（4）——sklearn实现
weixin_39637646的博客
12-04 1778
完整代码及其数据，请移步小编的GitHub传送门：请点击我如果点击有误：https://github.com/LeBron-Jian/MachineLearningNote上一节我学习了SVM的推导过程，下面学习如何实现SVM，具体的参考链接都在第一篇文章中，SVM四篇笔记链接为：对SVM的概念理清楚后，下面我们对其使用sklearn进行实现。1，Sklearn支持向量机库概述我们知道SVM相对感...
机器学习——SVM之交叉验证对参数（C，gamma）进行优化以及选择
热门推荐
python_AI_fans的博客
06-11 1万+
对于C和gamma参数的确定，一般是通过交叉验证的方法来进行确定的，大概思路就是将C和gamma参数在一定地取值范围内按照一定的步长（默认为1）进行取值组合，在不同（C，gamma）的组合下，将训练集样本均分成k组，一组作为验证的数据样本，其余k-1组则用来作为训练的数据，每一组数据都轮流着作为验证数据样本，这样在一组（C,gamma）组合下，就需要进行K次计算，把这K次计算的模型测试准确率score的均值作为这组（C,gamma）下模型的得分。这样的话就能够得到不同（C，gamma）组合下模型的得分，取得
python 交叉验证_模型调参必备技能-交叉验证
weixin_39600823的博客
12-05 479
在一般训练监督学习模型的时候，我们一般将数据分为训练集和测试集来进行测试，比如训练集为总样本量的80%，测试集的总样本量剩余的20%。一般考虑将测试数据的评价指标(如准确率)作为整个模型的评价指标，因为我们训练模型不是为了拟合，而是为了预测。 那么在模型验证时候，往往将总样本数据只进行1次的训练和测试的数据划分是不合理的，因为这样我们训练的模型只是提高了那20%数据的准确率。实际在训练模型时我们...
【Python】k折交叉验证调参支持向量机回归SVR模型
weixin_48618536的博客
05-12 3067
支持向量回归（Support Vector Regression，SVR）是一种基于支持向量机（SVM）的机器学习算法，用于建立训练数据的非线性回归模型。
pso 交叉验证svm python代码
10-16
交叉验证是一种常用的模型评估方法，用于评估机器学习模型的性能。...以上就是使用PSO交叉验证SVM的Python代码，其中PSO算法通过逐步搜索找到最佳的超参数C和gamma，以实现最佳的SVM分类器性能评估。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值