《数据挖掘与大数据分析》课堂学习笔记-6 7 8 第四章 分类 决策树 KNN算法 朴素贝叶斯

第四章 分类

1.分类基本概念

分类是一种数据分析形势，它提取刻画重要数据类的模型，这种模型叫分类器。

之后模型会进而预测分类的（离散的、无序的）类标号。
总而言之，分类属于 预测任务

2.预测任务

所以我们自然而然地引入了 什么是预测任务？
一般一个预测任务分成两个阶段

3.模型分类

生成模型

• 希望从数据中心学习/还原出 原始的真实数据生成模型。
• 常见的方法：学习数据的联合概率分布（一般会假设一下联合概率分布）
  eg:朴素贝叶斯方法、隐马尔可夫模型等

判别模型

• 从数据中心学习到不同类概念的区别 从而进行分类
  就例如之前所说的例子——
  给一个数据集 有杂乱的蓝莓枣 香蕉 通过这个模型的学习和判别之后 将其分类。
  eg: KNN SVM ANN Decision Tree等

4.经典分类方法

4.1 决策树

p16

引入：高尔夫问题

小王是一家著名高尔夫俱乐部的经理。但是他被雇员数量问题搞得心情十分不好。某些天好像所有人都來玩高尔夫，以至于所有员工都忙的团团转还是应付不过来，而有些天不知道什么原因却一个人也不来，俱乐部为雇员数量浪费了不少资金。

小王的目的是通过下周天气预报寻找什么时候人们会打高尔夫，以适时调整雇员数量。因此首先他必须了解人们决定是否打球的原因。

在2周时间内我们得到以下记录:

天气状况有晴，云和雨；气温用华氏温度表示；相对湿度用百分比；还有有无风。当然还有顾客是不是在这些日子光顾俱乐部。最终他得到了14列5行的数据表格。

在这个问题中 决策树模型被建起来用于解决问题

决策树是一个有向无环图。
根据数据集 根据决策树一个一个环节的判断 最终找出来规律——得知啥时候有人打高尔夫 啥时候没人打

这就通过分类树给出了一个解决方案。 小王在晴天，潮湿的天气或者刮风的雨天解雇了大部分员工，因为这种天气不会有人打高尔夫。而其他的天气会有很多人打高尔夫，因此可以雇用一些临时员工来工作。
所以得到——

引入小结

决策树可以帮助我们把负责的数据转换成相对简单、直观的结构