python机器学习
Devil丶LY
一个兴趣使然的程序猿~
展开
-
【机器学习】决策树算法详解(ID3, C4.5)
3.1ID3算法 ID3(Iterative Dichotomiser即迭代二分器)的简称,ID3算法是以信息增益为准则来选择划分属性的,首先介绍下信息熵,假定当前集合D中的第kkk个样本所占的比例为pk(k=1,2,...,n)p_{k}(k=1,2,...,n)pk(k=1,2,...,n),则D的信息熵定义为Ent(D)=−∑k=1∣n∣pklog2pkEnt(D)=-\sum_{...原创 2019-11-13 17:28:39 · 1596 阅读 · 0 评论 -
【机器学习】KNN算法详解
KNN算法概述KNN(k-nearest neighbor)算法属于机器学习中的有监督分类算法,主要用于分类,是最简单的机器学习算法之一顾名思义,其算法主体思想就是根据距离相近的邻居类别,来判定自己的所属类别。KNN算法思路1、计算测试对象与训练集中所有对象的距离,一般采用欧式距离。2、找出与计算对象距离最近的K个对象,作为测试对象的邻居;3、找出这K个对象中出现频率最高的类别,该类别即...原创 2018-10-17 00:18:58 · 1304 阅读 · 0 评论