支持向量机(SVM)代码

最新推荐文章于 2024-07-14 21:58:34 发布
最新推荐文章于 2024-07-14 21:58:34 发布
阅读量268 收藏 1
点赞数
分类专栏： 机器学习 文章标签： 决策树 ID3 C4.5 信息增益 信息增益率
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_40884357/article/details/91393304
版权

4.处理数据集

  • 划分数据集代码
def split_data_set(data_set,axis,value):
    """
    ID3算法需要对每个特征计算信息增益，选取最大的，这里就是对特征进行切分，
    传入每一列的索引，和值进行切分，返回的值不包括当前的这一个特征列。
    
    :param axis: 特征对应的 列名索引  [0,1,2,3]
    :param value: 特征值[id,color,root]对应列名里面所取的值，例如对color特征
                  进行切分传入value=dark_green,value=light_white,不同特征返回不同的列表
                  计算香浓熵
    :return: 
    """
    # 例如传入(data_set,1,dark_green),返回包含特征等于dark_green的列表
    ret_data_set = []
    for featVec in data_set:    # feat   合适的

        if featVec[axis] ==value:
            reduced_featVec = featVec[:axis]  # 0:0 的切片是一个[]

            reduce_eatVec_list = list(reduced_featVec)

            reduce_eatVec_list.extend(featVec[axis+1:])

            ret_data_set.append(reduce_eatVec_list)
    return ret_data_set
  • 选择最好的特征
def choose_best_feature_to_split(data_set):
    "选择最好的特征"
    num_features =len(data_set[0])-1  # 统计有几个特征
    base_Entropy = calculation_Shannon_Ent(data_set)
    best_info_gain = 0.0
    best_feature =-1

    # unique 独特的，唯一的
    for i in range(num_features):
        feat_list = [example[i] for example in data_set]
        unique_values = set(feat_list)  # 统计每个特征，有几个值
        new_Entropy = 0.0

        for value in unique_values:
            sub_data_set =split_data_set(data_set,i,value)  # 特征里面不同的值进行切分数据
            prob =len(sub_data_set)/float(len(data_set))
            # 计算每个不同值的熵，再乘以概率 H(D|A)
            new_Entropy += prob * calculation_Shannon_Ent(sub_data_set)#
        # 就是信息增益H(D)-H(D|A)
        info_gain = base_Entropy -new_Entropy
        if info_gain >best_info_gain:
            best_info_gain = info_gain
            best_feature =i
    return best_feature
兢飞
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
SVM支持向量机代码解释
05-08
SVM支持向量机，预测分类 回归，支持向量机(Support Vector Machine，SVM)是Corinna Cortes和Vapnik等于1995年首先提出的，它在解决小样本、非线性及高维模式识别中表现出许多特有的优势，并能够推广应用到函数拟合等其他机器学习问题中。 在机器学习中，支持向量机（SVM，还支持矢量网络）是与相关的学习算法有关的监督学习模型，可以分析数据，识别模式，用于分类和回归分析。
葡萄酒支持向量机SVM分类
04-15
支持向量机（Support Vector Machine，简称SVM）是一种强大的监督学习算法，广泛应用于分类和回归问题。在本示例中，“葡萄酒支持向量机SVM分类”是利用SVM来对葡萄酒数据进行分类的实践项目。这个压缩包可能包含了...
svm支持向量机调库代码
m0_67084346的博客
11-27 223
svm支持向量机，等高线图
机器学习代码——支持向量机（SVM）
最新发布
weixin_67870062的博客
07-14 232
支持向量机（SVM）
支持向量机（SVM）代码
weixin_56229359的博客
05-23 346
【代码】支持向量机（SVM）代码。
Svm支持向量机代码实现
qq_51443233的博客
10-04 243
import numpy as np #我们获取x和y，分别为x为特征矩阵(3, 10)，有3个数据，每个数据10个特征，y为类别向量(3,)，有三个数据，每个数据对应一个类别， #数据的特征和类别在x和y上的索引是对应的 cat = np.array([0.5,2.4,3.2,2.4,5.5,3.5,2.2,1.4,2.0,4.0]) dog = np.array([3.4,1.0,0.1,1.8,6.4,1.2,2.0,1.1,5.2,3.4]) frog = np.array([3.3,2.0,
支持向量机matlab代码程序_SVM支持向量机
weixin_39736650的博客
11-27 374
目录一.SVM数学模型二.Python实现一.SVM数学模型 首先，什么是SVM?英文全称support vector machine. 我们知道vector是向量的意思，在高维空间中的每一个点就是一个向量。(由一组基构成的向量） support是支持支撑的意思，machine意为机器，就是分类器。 支持向量机就是这三个单词连在一起的直接翻译。换个名字，支撑向量分类器，可能更易于理解...
Python中的支持向量机SVM的使用（附实例代码）
09-19
### Python中的支持向量机SVM使用详解及实例 #### 一、引言 支持向量机（Support Vector Machine, SVM）是一种广泛应用于分类与回归分析的监督学习模型。其核心思想是在高维空间中寻找一个最佳超平面，使得两个不同...
实战案例-使用支持向量机（SVM）算法进行人脸识别
06-17
本资源包括使用支持向量机（SVM）算法进行人脸识别预测的全部源码 SVM就是帮我们找到一个超平面，这个超平面能将不同的样本划分开，同时使得样本集中的点到这个分类超平面的最小距离（即分类间隔）最大化。 支持...
支持向量机实战代码（全）
10-12
机器学习实战支持向量机代码，分为简易SMO，完整SMO，引入核函数SMO，以及实战利用其做手写字体的识别。 完整的代码需要数学理论作为依托，请关注我的学习文档，有完整的理论证明，供大家参考。
支持向量机代码
05-09
#include <math.h> #include <stdio.h> #include <stdlib.h> #include <ctype.h> #include <float.h> #include <string.h> #include <stdarg.h> #include <limits.h> #include <locale.h> #include "svm.h" int libsvm_version = LIBSVM_VERSION; typedef float Qfloat; typedef signed char schar; #ifndef min template <class T> static inline T min(T x,T y) { return (x<y)?x:y; } #endif #ifndef max template <class T> static inline T max(T x,T y) { return (x>y)?x:y; } #endif template <class T> static inline void swap(T& x, T& y) { T t=x; x=y; y=t; } template <class S, class T> static inline void clone(T*& dst, S* src, int n) { dst = new T[n]; memcpy((void *)dst,(void *)src,sizeof(T)*n); } static inline double powi(double base, int times) { double tmp = base, ret = 1.0; for(int t=times; t>0; t/=2) { if(t%2==1) ret*=tmp; tmp = tmp * tmp; } return ret; } #define INF HUGE_VAL #define TAU 1e-12 #define Malloc(type,n) (type *)malloc((n)*sizeof(type)) static void print_string_stdout(const char *s) { fputs(s,stdout); fflush(stdout); } static void (*svm_print_string) (const char *) = &print_string_stdout; #if 1 static void info(const char *fmt,...) { char buf[BUFSIZ]; va_list ap; va_start(ap,fmt); vsprintf(buf,fmt,ap); va_end(ap); (*svm_print_string)(buf); } #else static void info(const char *fmt,...) {} #endif // // Kernel Cache // // l is the number of total data items // size is the cache size limit in bytes // class Cache { public: Cache(int l,long int size); ~Cache(); // request data [0,len) // return some position p where [p,len) need to be filled // (p >= len if nothing needs to be filled) int get_data(const int index, Qfloat **data, int len); void swap_index(int i, int j); private: int l; long int size; struct head_t { head_t *prev, *next; // a circular list Qfloat *data; int len; // data[0,len) is cached in this entry }; head_t *head; head_t lru_head; void lru_delete(head_t *h); void lru_insert(head_t *h); }; Cache::Cache(int l_,long int size_):l(l_),size(size_) { head = (head_t *)calloc(l,sizeof(head_t)); // initialized to 0 size /= sizeof(Qfloat); size -= l * sizeof(head_t) / sizeof(Qfloat); size = max(size, 2 * (long int) l); // cache must be large enough for two columns lru_head.next = lru_head.prev = &lru_head; } Cache::~Cache() { for(head_t *h = lru_head.next; h != &lru_head; h=h->next) free(h->data); free(head); } void Cache::lru_delete(head_t *h) { // delete from current location h->prev->next = h->next; h->next->prev = h->prev; } void Cache::lru_insert(head_t *h) { // insert to last position h->next = &lru_head; h->prev = lru_head.prev; h->prev->next = h; h->next->prev = h; } int Cache::get_data(const int index, Qfloat **data, int len) { head_t *h = &head[index]; if(h->len) lru_delete(h); int more = len - h->len; if(more > 0) { // free old space while(size < more) { head_t *old = lru_head.next; lru_delete(old); free(old->data); size += old->len; old->data = 0; old->len = 0; } // allocate new space h->data = (Qfloat *)realloc(h->data,sizeof(Qfloat)*len); size -= more; swap(h->len,len); }
支持向量机代码实现
03-14
里面有二元支持向量机算法实现过程，基本是用R语言写成
支持向量机matlab代码
08-15
支持向量机svm代码 matlab代码 用于分类的 比传统bp神经网络好
机器学习-支持向量机SVM
apple_52030329的博客
06-30 1025
在本练习中，我们将使用支持向量机（SVM）来构建垃圾邮件分类器。
支持向量机（SVM）算法代码
敲代码的乔帮主
12-04 950
1 sklearn实现svm的小例子 from sklearn import svm X = [[2,0],[1,1],[2,3]] y = [0,0,1] clf = svm.SVC(kernel = "linear") clf.fit(X,y) print(clf) print(clf.support_vectors_) print(clf.support_) print(cl...
【SVM】支持向量机代码
RickyWasYoung的博客
04-05 195
核心：fitrsvm函数。
非线性支持向量机SVM 代码
09-25
非线性支持向量机(SVM)的代码示例可以通过使用核技巧和常用核函数来解决非线性问题。以下是一个非线性SVM的代码示例： ```python from sklearn.svm import SVC from sklearn.datasets import make_classification ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值