2018年12月_临东

原创【ML_Algorithm 6 】贝叶斯(Bayes)——算法概念梳理与实际应用

基本概念导引：贝叶斯法是关于随机事件A和B的条件概率和边缘概率的。其中P(A|B)是在B发生的情况下A发生的可能性。为完备事件组，即在贝叶斯法则中，每个名词都有约定俗成的名称：P(A)是A的先验概率或边缘概率。之所以称为"先验"是因为它不考虑任何B方面的因素。P(A|B)是已知B发生后A的条件概率，也由于得自B的取值而被称作A的后验概率。P(B|A)是已知A发生后B的条件...

2018-12-23 21:48:58 1824 1

转载【ML_Algorithm 5 】决策树(Decision Tree)——算法实际应用

本文对决策树算法进行简单的总结和梳理，并对著名的决策树算法ID3(Iterative Dichotomiser 迭代二分器)进行实现，实现采用Python语言，一句老梗，“人生苦短，我用Python”，Python确实能够省很多语言方面的事，从而可以让我们专注于问题和解决问题的逻辑。根据不同的数据，我实现了三个版本的ID3算法，复杂度逐步提升：1.纯标称值无缺失数据集2.连续值和标称值...

2018-12-16 09:09:42 1708

原创【ML_Algorithm 4 】决策树(Decision Tree)——算法概念梳理

引：决策树是一个预测模型，他代表的是对象属性与对象值之间的一种映射关系。Entropy = 系统的凌乱程度，使用算法ID3, C4.5和C5.0生成树算法使用熵。这一度量是基于信息学理论中熵的概念。构造决策树的基本思想（大众化表述）：为的是随着树深度的增加，节点的熵迅速的降低（熵值越低，节点越纯）。熵降低的速度越快越好，这样才能有望得到一颗高度尽可能矮的决策树。几个概念的引出：...

2018-12-12 21:09:15 481

原创【ML_Algorithm 3 】回归算法的实际应用（一）

此实例便是在二维空间中给出了两类数据点，现在需要找出两类数据的分类函数模型。即若输入新数据，所训练模型应可判断该数据属于二维空间中两类数据中的哪一类！在给出Python实现的示例代码展示之前，先介绍一下两种优化准则函数的方法： 1、梯度上升算法 2、随机梯度上升算法梯度上升算法：梯度上升算法和我们平时用的梯度下降算法思想类似，梯度上升算法基于的思想是：要找到某个函...

2018-12-04 21:10:37 807

原创【ML_Preparation 3 】Numpy科学计算库——常用方法列举

Anaconda 中对于该库已经集成好了，不需要再进行繁琐操作。如果用的不是 Anaconda 软件，则需要自己通过 pip 命令来安装Numpy库。import numpy当不清楚Numpy中某个函数的功能及用法时，我们可以使用 print (help(numpy.所需查询函数))即可查询该函数的帮助文档。！。各参数解释/函数举例。可以考虑编译时同时开启两个编译器，一个用...

2018-12-03 21:01:55 228

转载【ML_Preparation 2 】Anaconda 详解及多 Python 版本切换实现

1 Anaconda具体是用来干什么的根据其主页介绍：https://www.anaconda.com/what-is-anaconda/Anaconda - The Most Popular Python Data Science PlatformAnaconda Distribution - With over 6 million users, the open source An...

2018-12-02 13:16:58 330

原创【ML_Preparation 1 】Anaconda 国内站点快速下载、安装及相关库的安装

Anaconda 的获取、安装使用Anaconda 安装 python 环境，国内镜像地址：https://mirrors.tuna.tsinghua.edu.cn/anaconda/archive/该镜像站点基本涵盖所有 Anaconda 版本。自行下载安装即可。速度要比国外站点快很很很多。安装完成后，从开始菜单栏打开 Anaconda 文件列表，可以查看到以下诸多选项。...

2018-12-01 22:53:44 148

原创【ML_Algorithm 2 】逻辑回归(Logistic Regression)——算法推导

逻辑回归其实做的是一个分类的事怎么样做到的分类：（可以输入任何数，该式可以转换成一个0或1的取值）该算法实际上是用回归的方法转把数据换成了分类（二分类）的问题。此式：咱们要找出来一个θ，使该θ和x进行组合之后，使得得到的值和y的真实值相等的概率最大也就是说咱们还要进行一个极大似然估计。梯度下降，横空出世——解法与上一节——线性回归相同。但是，不得不说的点...

2018-12-01 20:59:21 281

天下我心