数据挖掘与机器学习作业_04 支持向量机

已于 2023-01-03 23:19:41 修改
阅读量327 收藏 1
点赞数
分类专栏： 机器学习 文章标签： 数据挖掘
于 2023-01-03 22:47:55 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_46117498/article/details/128540598
版权

支持向量机

from sklearn.svm import SVC
from sklearn.model_selection import GridSearchCV
from sklearn.model_selection import cross_val_score
from sklearn.model_selection import train_test_split
from sklearn.feature_selection import mutual_info_classif
from imblearn.over_sampling import SMOTE
import matplotlib.pyplot as plt
from sklearn.manifold import TSNE
import pandas as pd
import numpy as np
# 导入自己写的工具类
from my_tools import *
# 忽略warning
import warnings
from sklearn.decomposition import PCA
warnings.filterwarnings("ignore")

jibing_res = pd.read_excel("./jibing_feature_res_final.xlsx")
jibing = pd.read_excel("./jibing_feature_final.xlsx")

在SVM中连续型变量应尽可能归一化

11到60列是连续型的变量，要归一化
jibing.iloc[:,11:62].head()
血红蛋白红细胞压积血小板计数血小板压积总蛋白g/L白蛋白g/L球蛋白g/L白球比ALT丙氨酸氨基转移酶碱性磷酸酶...腺苷脱氨酶ADA果糖胺肌酸激酶α-L-盐藻糖苷酶乳酸淀粉酶同型半胱氨酸铁总铁结合力血型
0120.036.6307.00.27673.841.732.11.37102...10.01.3248.012.01.949.09.912.343.53
1131.038.5207.00.19167.944.523.41.93073...10.01.6777.016.01.481.09.216.955.50
2128.038.586.00.09357.336.221.11.72478...15.01.8678.022.01.989.09.97.051.40
3146.045.4190.00.17481.147.733.41.41869...16.01.6892.012.01.469.09.315.853.00
4135.040.3102.00.11479.252.227.01.92469...13.01.6058.014.01.7153.08.113.245.90

5 rows × 49 columns

jibing.index = range(jibing.shape[0])

归一化

jibing = guiyihua(jibing)

jibing.head()
左右是否外伤症状持续时间明显夜间痛年龄高血压高血脂2型糖尿病吸烟与否饮酒与否...腺苷脱氨酶ADA果糖胺肌酸激酶α-L-盐藻糖苷酶乳酸淀粉酶同型半胱氨酸铁总铁结合力血型
000300.11036010000.0...0.2644710.0013300.0040040.0751880.1395350.1442020.0480570.2356980.2804433
111200.10360410000.0...0.2644710.0033540.0065230.1052630.1007750.2811300.0409000.3409610.5018450
210410.08783800000.0...0.4243680.0044530.0066100.1503760.1395350.3153620.0480570.1144160.4261990
310300.09909900000.0...0.4563480.0034120.0078260.0751880.1007750.2297820.0419220.3157890.4557200
401300.10135100000.0...0.3604090.0029500.0048730.0902260.1240310.5892170.0296520.2562930.3247230

5 rows × 60 columns

标准化

jibing = biaozhunhua(jibing)

jibing.head()
左右是否外伤症状持续时间明显夜间痛年龄高血压高血脂2型糖尿病吸烟与否饮酒与否...腺苷脱氨酶ADA果糖胺肌酸激酶α-L-盐藻糖苷酶乳酸淀粉酶同型半胱氨酸铁总铁结合力血型
000300.4028641000-0.448892...-0.396787-0.160764-0.176406-1.2411220.269307-0.755958-0.420427-0.880622-1.2260993
111200.1802581000-0.448892...-0.396787-0.079732-0.098498-0.773740-0.3907230.608493-0.538745-0.1325860.0887610
21041-0.3391560000-0.448892...1.055008-0.035743-0.095811-0.0726670.2693070.949606-0.420427-1.742489-0.3604830
310300.0318540000-0.448892...1.345367-0.077417-0.058200-1.241122-0.3907230.096824-0.521842-0.311464-0.1851680
401300.1060560000-0.448892...0.474290-0.095938-0.149541-1.0074310.0052953.678509-0.724673-0.734267-0.9631270

5 rows × 60 columns

使用SVC进行训练

from time import time
import datetime
from sklearn.svm import SVC
from sklearn.model_selection import GridSearchCV
from sklearn.model_selection import cross_val_score
from sklearn.metrics import roc_auc_score, recall_score
from sklearn.model_selection import train_test_split
from imblearn.over_sampling import RandomOverSampler

使用不同核函数

  • 支持向量机可以通过核函数来将数据映射到更高维度，从而使模型更有效地拟合数据。

  • ploy:多项式核

  • rbf:径向基函数

  • linear:线性核函数

  • sigmoid:核函数

根据结果，有两种需要探索的核函数，sigmoid，linear

smote = SMOTE(sampling_strategy=1, random_state=42)
Xtrain,Xtest,Ytrain,Ytest = train_test_split(jibing,jibing_res,test_size=0.3,random_state=42)
Xtrain, Ytrain = smote.fit_resample(Xtrain,Ytrain)
for kernel in ["poly","rbf",'linear',"sigmoid"]:
    clf = SVC(kernel=kernel,random_state=42)
    clf.fit(Xtrain, Ytrain)
    y_pre = clf.predict(Xtest)
    metrics_ = res_metrics(Ytest,y_pre,"核函数为: {}".format(kernel))

####################核函数为: poly####################
+--------------------+--------------------+--------------------+
|     precision      |       recall       |         f1         |
+--------------------+--------------------+--------------------+
| 0.8056570140920862 | 0.3103448275862069 | 0.4480843629362087 |
+--------------------+--------------------+--------------------+
####################核函数为: rbf#####################
+--------------------+--------------------+---------------------+
|     precision      |       recall       |          f1         |
+--------------------+--------------------+---------------------+
| 0.8051937984496125 | 0.1724137931034483 | 0.28401276375836354 |
+--------------------+--------------------+---------------------+
###################核函数为: linear###################
+--------------------+---------------------+--------------------+
|     precision      |        recall       |         f1         |
+--------------------+---------------------+--------------------+
| 0.8011947349110254 | 0.39655172413793105 | 0.5305215491957693 |
+--------------------+---------------------+--------------------+
##################核函数为: sigmoid###################
+--------------------+--------------------+--------------------+
|     precision      |       recall       |         f1         |
+--------------------+--------------------+--------------------+
| 0.8102625272331155 | 0.6206896551724138 | 0.7029187625012112 |
+--------------------+--------------------+--------------------+

对linear 和 sigmoid 进行调参

首先是 linear ，SVM 默认的核函数就是linear

特征筛选

SelectKBest：

根据指定的统计检验方法选择出最优的 k 个特征。

SMOTE：

使用类似插值的方法扩充少数类。

mutual_info_classif：

衡量两个随机变量间相关性的一种方法，互信息的数值越大，则两个随机变量之间的相关性越强。

from sklearn.feature_selection import SelectKBest
from sklearn.feature_selection import chi2
from imblearn.over_sampling import SMOTE
f1_list = []
best_k = -1
best_score = -1
set_font()
for i in range(1,60):
#     sampler = RandomOverSampler(sampling_strategy=0.2, random_state=42)
    smote = SMOTE(sampling_strategy=1, random_state=42)
    selector = SelectKBest(mutual_info_classif, k=i)
    jibing_ = selector.fit_transform(jibing, jibing_res)
    Xtrain,Xtest,Ytrain,Ytest = train_test_split(jibing_,jibing_res,test_size=0.3,random_state=42)
#     Xtrain, Ytrain = sampler.fit_resample(Xtrain,Ytrain)
    Xtrain, Ytrain = smote.fit_resample(Xtrain,Ytrain)
    clf = SVC(random_state=42)
    clf.fit(Xtrain, Ytrain)
    y_pre = clf.predict(Xtest)
    metrics_ = res_metrics(Ytest,y_pre,"调参")
    f1_list.append(metrics_["f1-score"])
    if best_score < metrics_["f1-score"]:
        best_k = i
        best_score = metrics_["f1-score"]

zhexiantu(range(1,60),f1_list,"f1 - 特征筛选")

请添加图片描述

线性的核函数无法完美地拟合高维的数据，从而产生了下降趋势。

best_k

3

实际上，这里所做的是牺牲多数样本的准确性

尽可能将少数样本找出来

from sklearn.feature_selection import SelectKBest
from sklearn.feature_selection import chi2
from imblearn.over_sampling import SMOTE

smote = SMOTE(sampling_strategy=1, random_state=42)
selector = SelectKBest(mutual_info_classif, k=3)
jibing_ = selector.fit_transform(jibing, jibing_res)

Xtrain,Xtest,Ytrain,Ytest = train_test_split(jibing_,jibing_res,test_size=0.3,random_state=42)
#     Xtrain, Ytrain = sampler.fit_resample(Xtrain,Ytrain)
Xtrain, Ytrain = smote.fit_resample(Xtrain,Ytrain)

clf = SVC(random_state=42)
clf.fit(Xtrain, Ytrain)
y_pre = clf.predict(Xtest)
metrics_ = res_metrics(Ytest,y_pre,"find_best")
# f1_list.append(metrics_["f1-score"])

####################find_best#####################
+--------------------+--------------------+-------------------+
|     precision      |       recall       |         f1        |
+--------------------+--------------------+-------------------+
| 0.7883562091503269 | 0.5344827586206896 | 0.637058344527622 |
+--------------------+--------------------+-------------------+

PCA 没多大作用

f1_list = []
from sklearn.manifold import TSNE
for i in range(1,3):
    clf = SVC(random_state=42)
    pca = PCA(n_components=i,random_state=42)
    Xtrain_ = pca.fit_transform(Xtrain,Ytrain)
    clf.fit(Xtrain_, Ytrain)
    Xtest_ = pca.fit_transform(Xtest)
    y_pre = clf.predict(Xtest_)
    metrics_ = res_metrics(Ytest,y_pre,"调参")
    f1_list.append(metrics_["f1-score"])
zhexiantu(range(1,3),f1_list,"f1 - PCA")

TSNE效果很好

请添加图片描述

f1_list = []
from sklearn.manifold import TSNE
for i in range(1,3):
    clf = SVC(random_state=42)
    tsne = TSNE(n_components=i,random_state=42)
    Xtrain_ = tsne.fit_transform(Xtrain,Ytrain)
    clf.fit(Xtrain_, Ytrain)
    Xtest_ = tsne.fit_transform(Xtest)
    y_pre = clf.predict(Xtest_)
    metrics_ = res_metrics(Ytest,y_pre,"调参")
    f1_list.append(metrics_["f1-score"])

zhexiantu(range(1,3),f1_list,"tsne - F1")

请添加图片描述

clf = SVC(random_state=42)
tsne = TSNE(n_components=2,random_state=42)
Xtrain_ = tsne.fit_transform(Xtrain,Ytrain)
clf.fit(Xtrain_, Ytrain)
Xtest_ = tsne.fit_transform(Xtest)
y_pre = clf.predict(Xtest_)
metrics_ = res_metrics(Ytest,y_pre,"TSNE-F1")
f1_list.append(metrics_["f1-score"])

#####################TSNE-F1######################
+--------------------+--------------------+--------------------+
|     precision      |       recall       |         f1         |
+--------------------+--------------------+--------------------+
| 0.7909002130681818 | 0.7413793103448276 | 0.7653395422396697 |
+--------------------+--------------------+--------------------+

综上，选择TSNE进行降到2维时，linear 的效果最好

f1-score 为0.765

训练

要调的参数

  • 惩罚系数 C
  • 核函数

接下来要对 sigmoid 核函数进行调参

from sklearn.feature_selection import SelectKBest
from sklearn.feature_selection import chi2
from imblearn.over_sampling import SMOTE
f1_list = []
set_font()
smote = SMOTE(sampling_strategy=1, random_state=42)
for i in range(1,60):
    selector = SelectKBest(mutual_info_classif, k=i)
    jibing_ = selector.fit_transform(jibing, jibing_res)
    Xtrain,Xtest,Ytrain,Ytest = train_test_split(jibing_,jibing_res,test_size=0.3,random_state=42)
    Xtrain, Ytrain = smote.fit_resample(Xtrain,Ytrain)    
    clf = SVC(kernel="sigmoid",random_state=42)
    clf.fit(Xtrain, Ytrain)
    y_pre = clf.predict(Xtest)
    metrics_ = res_metrics(Ytest,y_pre,"调参")
    f1_list.append(metrics_["f1-score"])
zhexiantu(range(1,60),f1_list,"f1 - 特征筛选")

请添加图片描述

f1_list = []
set_font()
for i in range(50,60):
    smote = SMOTE(sampling_strategy=1, random_state=42)
    selector = SelectKBest(mutual_info_classif, k=i)
    jibing_ = selector.fit_transform(jibing, jibing_res)
    Xtrain,Xtest,Ytrain,Ytest = train_test_split(jibing_,jibing_res,test_size=0.3,random_state=42)
    Xtrain, Ytrain = smote.fit_resample(Xtrain,Ytrain)
    clf = SVC(kernel="sigmoid",random_state=42)
    clf.fit(Xtrain, Ytrain)
    y_pre = clf.predict(Xtest)
    metrics_ = res_metrics(Ytest,y_pre,"调参")
    f1_list.append(metrics_["f1-score"])
zhexiantu(range(50,60),f1_list,"f1 - 特征筛选")

请添加图片描述

确定了选择前53个特征

smote = SMOTE(sampling_strategy=1, random_state=42)
selector = SelectKBest(mutual_info_classif, k=53)
jibing_ = selector.fit_transform(jibing, jibing_res)
Xtrain,Xtest,Ytrain,Ytest = train_test_split(jibing_,jibing_res,test_size=0.3,random_state=42)
Xtrain, Ytrain = smote.fit_resample(Xtrain,Ytrain)
clf = SVC(kernel="sigmoid",random_state=42)
clf.fit(Xtrain, Ytrain)
y_pre = clf.predict(Xtest)
metrics_ = res_metrics(Ytest,y_pre,"f1-select")
f1_list.append(metrics_["f1-score"])

####################f1-select#####################
+--------------------+--------------------+--------------------+
|     precision      |       recall       |         f1         |
+--------------------+--------------------+--------------------+
| 0.8095399875039051 | 0.6724137931034483 | 0.7346327001417388 |
+--------------------+--------------------+--------------------+

降维-PCA

f1_list = []
for i in range(1,53):
    clf = SVC(kernel="sigmoid",random_state=42)
    pca = PCA(n_components=i,random_state=42)
    Xtrain_ = pca.fit_transform(Xtrain,Ytrain)
    clf.fit(Xtrain_, Ytrain)
    Xtest_ = pca.fit_transform(Xtest)
    y_pre = clf.predict(Xtest_)
    metrics_ = res_metrics(Ytest,y_pre,"调参")
    f1_list.append(metrics_["f1-score"])
zhexiantu(range(1,53),f1_list,"f1 - PCA")

请添加图片描述

f1_list = []
for i in range(1,10):
    clf = SVC(kernel="sigmoid",random_state=42)
    pca = PCA(n_components=i,random_state=42)
    Xtrain_ = pca.fit_transform(Xtrain,Ytrain)
    clf.fit(Xtrain_, Ytrain)
    Xtest_ = pca.fit_transform(Xtest)
    y_pre = clf.predict(Xtest_)
    metrics_ = res_metrics(Ytest,y_pre,"调参")
    f1_list.append(metrics_["f1-score"])
zhexiantu(range(1,10),f1_list,"f1 - PCA")

请添加图片描述

TSNE

f1_list = []
from sklearn.manifold import TSNE
for i in range(1,4):
    clf = SVC(kernel="sigmoid",random_state=42)
    tsne = TSNE(n_components=i,random_state=42)
    Xtrain_ = tsne.fit_transform(Xtrain,Ytrain)
    clf.fit(Xtrain_, Ytrain)
    Xtest_ = tsne.fit_transform(Xtest)
    y_pre = clf.predict(Xtest_)
    metrics_ = res_metrics(Ytest,y_pre,"调参")
    f1_list.append(metrics_["f1-score"])
zhexiantu(range(1,4),f1_list,"tsne - TSNE")

请添加图片描述

最终确定使用PCA降到6维

clf = SVC(kernel="sigmoid",random_state=42)
pca = PCA(n_components=6,random_state=42)
Xtrain_ = pca.fit_transform(Xtrain,Ytrain)
clf.fit(Xtrain_, Ytrain)
Xtest_ = pca.fit_transform(Xtest)
y_pre = clf.predict(Xtest_)
metrics_ = res_metrics(Ytest,y_pre,"PCA-sigmoid")
f1_list.append(metrics_["f1-score"])

###################PCA-sigmoid####################
+--------------------+--------------------+--------------------+
|     precision      |       recall       |         f1         |
+--------------------+--------------------+--------------------+
| 0.8232222222222222 | 0.7413793103448276 | 0.7801602013904365 |
+--------------------+--------------------+--------------------+

寻找C的范围

f1_list = []
for c_ in np.linspace(0.1,100,300):
    clf = SVC(kernel='sigmoid',C=c_)
    clf = clf.fit(Xtrain_,Ytrain)
    y_pre = clf.predict(Xtest_)
    metrics_ = res_metrics(Ytest,y_pre,"调参")
    f1_list.append(metrics_["f1-score"])
zhexiantu(np.linspace(0.1,100,300),f1_list,"C - F1")

请添加图片描述

C的取值越小，拟合程度越好，但也不能太小

最佳值大约在5到6之间。

f1_list = []
for c_ in np.linspace(5,6,10):
    clf = SVC(kernel='sigmoid',C=c_,random_state=42)
    clf = clf.fit(Xtrain_,Ytrain)
    y_pre = clf.predict(Xtest_)
    metrics_ = res_metrics(Ytest,y_pre,"调参")
    f1_list.append(metrics_["f1-score"])
zhexiantu(np.linspace(5,6,10),f1_list,"C - F1")

请添加图片描述

C = 5.6

clf = SVC(kernel='sigmoid',C=5.6,random_state=42)
clf = clf.fit(Xtrain_,Ytrain)
y_pre = clf.predict(Xtest_)
metrics_ = res_metrics(Ytest,y_pre,"SVM-F1-Final")

###################SVM-F1-Final###################
+--------------------+--------------------+--------------------+
|     precision      |       recall       |         f1         |
+--------------------+--------------------+--------------------+
| 0.8350202848153668 | 0.7758620689655172 | 0.8043549105674161 |
+--------------------+--------------------+--------------------+

通过与 linear 核函数对比发现

支持向量机的 f1-score 最高0.804

威尔士矮脚狗
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
数据挖掘算法之支持向量机（SVM）（一）
shanhai3000的博客
07-18 1185
支持向量机SVM（一）----硬间隔分类器SVM简介线性可分支持向量机函数间隔和几何间隔间隔最大化凸二次规划 SVM简介 支持向量机（SVM）是在所有知名数据挖掘算法中最健壮、最准确的方法之一，主要包括支持向量的分类器（SVC）、支持向量回归（SVR）。SVM算法之所以有如此大的影响，是因为该方法有坚实的统计学理论基础。 本文将分三篇，由浅入深分别介绍针对线性问题的硬间隔分类器、近似线性问题的软间隔分类器和针对非线性问题的核方法。 线性可分支持向量机 对于两类线性可分问题，SVC要找到一个最优的决策边界，通
机器学习与数据挖掘-支持向量机(SVM)（一）
小硒---代码无疆
05-02 9340
最近在看斯坦福大学的机器学习的公开课，
【数据挖掘】之 支持向量机
热门推荐
一定要站在自己热爱的生活里闪闪发光
04-27 3万+
1.支持向量机简介 在机器学习中，支持向量机是一种监督学习模型和相关的学习算法，SVM用于分析分类和回归分析中的数据。给定一组训练数据，每个训练实例被标记为属于两个类别中的一个或另一个，SVM训练算法创建一个模型，将新数据分配给两个类别之一，使其成为非概率二元线性分类器。SVM模型将数据表示为空间中的点，使得映射将各个类别的数据被尽可能宽的间隔分开。然后，将新数据映射到同一空间，并根据它们所处的...
数据挖掘---支持向量机（SVM）
weixin_30699741的博客
07-19 99
•1.SVM的基本思想： •SVM把分类问题转换成寻求分类平面的问题，并通过最大化分类边界点到分类平面的距离来实现分类。通俗的讲支持向量机的解决的问题是找到最好的分类超平面。支持向量机（Support vector machine)通常用来解决二分类问题 ​ 2.构造目标函数 类似于点到直线的距离，可以得到点到超平面的距离为 ​ •在Logis...
数据挖掘学习——支持向量机（SVM）
weixin_52135595的博客
09-18 3246
SVM是一种分类模型，是一个定义在特征空间上间隔（距离）最大的线性分类器。 基本思路：SVM将训练样本数据集表示为特征空间的点，将各个类别的训练数据使用超平面进行分隔，在预测时，输入一个新的测试数据点，若该测试数据点在特征空间的位置分布在超平面的某一侧，则判断该测试点的类别即为该侧所对应的类别。共有三种类型的SVM：线性可分支持向量机(硬间隔最大化)线性不可分支持向量机非线性支持向量机将求解线性可分支持向量机的最优化问题作为原始最优化问题。 （SVM通常用于二分类问题，用-1和+1分别表示对应的两个类别，
数据挖掘第三次作业（支持向量机SVM和决策树）
11-17
分类算法（决策树、支持向量机）建立决策函数，然后判断如下数据的类别。 （青年，是，否，非常好）请按列表写结果并附加程序和运行结果。
Python数据挖掘与机器学习开发实战_基于线性回归的股票预测_优秀案例实例源代码源码.zip
06-20
在Python数据挖掘与机器学习领域，线性回归是一种基础但重要的预测模型，尤其在金融行业中，如股票市场预测，它的应用十分广泛。本项目通过实际的案例，详细讲解了如何运用线性回归来预测股票价格，帮助我们理解并...
重庆大学 数据分析与数据挖掘课程作业 数据挖掘算法-支持向量机算法SVM在邮件分类中的应用 共22页.pptx
04-03
支持向量机(Support Vector Machine)是建立在统计学习理论的VC维理论和结构风险最小原理基础上的，根据有限的样本信息在模型的复杂性和学习能力之间寻求最佳折衷，以期获得最好的推广能力（或称泛化能力）。...
中南大学机器学习与数据挖掘作业; 爬虫.zip
04-12
随着统计学的发展，统计学习在机器学习中占据了重要地位，支持向量机（SVM）、决策树和随机森林等算法的提出和发展，使得机器学习能够更好地处理分类、回归和聚类等任务。进入21世纪，深度学习成为机器学习领域的...
机器学习SVM作业基于Iris鸢尾花的数据样本实现SVM分类项目源码+报告
02-27
sklearn (scikit-learn) 是基于 Python 语言的机器学习工具,是简单高效的数据挖掘和数据分析工具，有常用的机器学习（如：广义线性模型、最近邻法、决策树等）的工具，也有一些很经典的数据集（如：波士顿房价、鸢尾...
数据挖掘算法之支持向量机（SVM）（二）
shanhai3000的博客
07-23 284
数据挖掘算法之支持向量机（SVM）（二）软间隔分类器简介三级目录 在第一篇中我们讲解了线性可分下的硬间隔分类器，但那只是SVM算法的起点。现实中许多问题并不是线性可分的，如果样本不能被完全分开，那么就是：间隔为负，原问题的可行域为空，对偶问题的目标函数无限，这将导致相应的最优化问题无解。 今天我们就讲下针对近似线性可分情况下的软间隔优化。 软间隔分类器简介 在软间隔分类器中，允许存在少量的“噪音数据”，这些样本点被认为是训练错误。具体地说，就是引入松弛变量ξiξ_iξi​来量化分类器的违规行为： 其中参数
数据挖掘之支持向量机SVM以及它的两种解法Maximizing the margin of perceptron
蒋大钊的博客
10-25 880
记录梳理课上关于支持向量机的Optimal解法以及Approximate解法，以及一系列证明。
机器学习与数据挖掘之支持向量机
Final Fantasy
03-27 871
参考文献：机器学习与数据挖掘参考文献 支持向量机是一种二类分类模型。它的基本模型是定义在特征空间上的间隔最大的线性分类器。支持向量机还包括核技巧，这使它成为实质上的非线性分类器。支持向量机的学习策略是间隔最大化，可形式化为一个求解凸二次规划的问题，也等价于正则化的合页损失函数的最小化问题。支持向量机的学习算法是求解凸二次规划的最优化算法。 支持向量机学习方法包含构建由简至繁的模型：
数据挖掘学习笔记5-支持向量机SVM
irony_202的博客
02-08 161
支持向量机主要原理是在分类器可以将两类样本分开的基础上，通过最大化两类样本之间的间隔来选取分类器。距离算法如下 对于线性有重叠的样本，可采用软间隔，即放宽y（wx+b）≥1的条件，增加一个宽限值，使一些重叠样本也能被分类器分开。 对于线性不可分问题，SVM会先将样本输入映射到一个高维特征空间，一般来说维数越高能找到一个线性决策面的几率越大，而SVM精妙地选取了一个高维特征空间，使得高维的內积运算恰好等于低纬的內积运算的平方（或其他），这样既提升了样本的维度，又没有使运算变得特别复杂，这一类方法叫做核方法（
机器学习与数据挖掘 课程作业 基于数据驱动的空调结霜程度检测方法研究
qq_24624539的博客
03-03 1505
机器学习与数据挖掘 课程作业 基于数据驱动的空调结霜程度检测方法研究 摘要： 在我国的夏热冬冷地区，由于没有集中供暖，在冬季使用空调制热进行供暖是一种很常见的方式，但该地区冬季空气相对湿度较高并且环境温度低，空调的室外换热器表面很容易出现结霜现象，导致空调制热效率的降低以及能源的浪费。如何及时准确地对空调的结霜程度进行检测，从而适时地启动除霜程序，避免结霜程...
【机器学习】支持向量机
weixin_51978164的博客
12-08 342
SVM简单实现
机器学习与数据挖掘-作业二-第二章 模型评估与选择
m0_64351669的博客
10-16 1121
机器学习与数据挖掘-作业二-第二章 模型评估与选择
吴恩达机器学习python作业之支持向量机
Ariya1234的博客
10-30 107
吴恩达机器学习python作业之支持向量机，不定期更新与补充之前的笔记
吴恩达机器学习课程-作业6-支持向量机（python实现）
weixin_44027820的博客
03-03 2430
Machine Learning(Andrew) ex4-Support Vector Machines 椰汁笔记 Support Vector Machines 这个算法是干什么的？ 分类算法，和逻辑回归类似。 这个算法的优点是什么？ 这个算法又叫做最大间距分类算法。 下面这张图就是很好的解释，对于下面的分类问题之前的逻辑回归的决策边界可能是粉色或者绿色的线。可以看到虽然是成功将数据集分为...
python数据挖掘期末作业
最新发布
06-27
Python数据挖掘期末作业通常会涉及到数据分析、机器学习和数据可视化等多个方面。具体可能包括以下几个步骤： 1. 数据清洗：导入并预处理数据，处理缺失值、异常值和重复值。 2. 数据探索：使用Python库（如Pandas...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值