2018年12月_pcb931126

12月 10月 08月 07月

原创机器学习Logistic回归

一、Logistic回归 &nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;&nbsp;使用一条直线对一些数据点进行拟合(该线称为最佳拟合线)，这个拟合过程叫做回归。利用Logistic回归进行分类的主要思想是：根据现有数据对分类边界线建立回归公式，以此进行分类。训练Logistic分类器的做法就是寻找最佳拟合参数，使用的是最优化算法（梯度上升算法以及改进的随机梯度上升算法

2018-12-25 11:14:15 210

原创机器学习-朴素贝叶斯分类器

一、条件概率使用贝叶斯分类器分类文本属性。现已知一个词是否出现在一篇文档中，也知道该文档所有的类别，那么使用条件概率可以得到：　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　　p(ci∣w)=p(w∣ci)p(ci)p(w))p(c_{i}|w)=\frac{p(w|c_{i})p(c_{i})}{p(w))}p(ci∣w)=p(w))p(w∣ci)p(...

2018-12-23 11:34:42 234

原创使用Python的matplotlib画折线图，柱状图，三维图

因为在各种场景下需要各种实验数据的对比图像，有的中还要求dpi，这些在Python中的matplotlib中都可以实现，下面是总结的各种画图命令。　　打包文件：https://download.csdn.net/download/pcb931126/10864654 """ #Python中matplotlib中画图工具 #姓名：pcb #时间：2018.12.20 """ #引入画图

2018-12-20 15:48:37 8881 1

上一篇博客简单粗暴的介绍了基于ID3算法的决策树的代码实现，这篇博客具体介绍一下决策树中常用算法ID3、C4.5以及CART算法的原理，最终会给出基于C4.5的代码实现，CART算法代码实现在回归树那边。一、基本概念 1.信息量决策树生成算法的背后的思想是利用一个度量信息量的方法，来衡量一种“数据划分“的优劣，从而生成一个判定序列。具体而言，它会不断寻找数据划分的方法，使得在该划分下能够获得...

2018-12-19 19:59:32 188

原创机器学习-决策树

基本原理：　　kNN算法可以完成很多分类任务，但是它的最大的缺点就是无法给出数据的内在含义，决策树的主要优点就在于数据形式非常容易理解。　　决策树的一般流程：收集数据准备数据：树构造算法只适用于标称型数据，因此数值型必须离散化分析数据：可以使用任何方法，在树构造完成之后，我们可以检查图形是否符合预期训练算法：构造树的数据结构测试算法：使用经验树计算错误率使用算法：使用训练好的树模...

2018-12-18 20:29:01 160

原创机器学习-k近邻算法(kNN)

简单的说，kNN算法采用测量不同特征值之间的距离方法进行分类。kNN算法优缺点以及使用范围：　　　优点：精度高、对异常值不敏感、无数据输入假定；　　　缺点：计算复杂度高，空间复杂度高　　　使用数据范围：数值型和标称型。　　kNN算法的工作原理：存在一个样本数据集(训练样本集)，并且样本集中的每个样本都存在标签，即我们知道样本集中的每个特征与样本集中的数据对应的特征进行比较，然后算法提取样...

2018-12-15 11:24:52 441