文章目录
第四章 分类
1.分类基本概念
分类是一种数据分析形势,它提取刻画重要数据类的模型,这种模型叫分类器。
之后模型会进而预测分类的(离散的、无序的)类标号。
总而言之,分类属于 预测任务
2.预测任务
所以我们自然而然地引入了 什么是预测任务?
一般一个预测任务分成两个阶段
3.模型分类
生成模型
- 希望从数据中心学习/还原出 原始的真实数据生成模型。
- 常见的方法:学习数据的联合概率分布(一般会假设一下联合概率分布)
eg:朴素贝叶斯方法、隐马尔可夫模型等
判别模型
- 从数据中心学习到不同类概念的区别 从而进行分类
就例如之前所说的例子——
给一个数据集 有杂乱的蓝莓枣 香蕉 通过这个模型的学习和判别之后 将其分类。
eg: KNN SVM ANN Decision Tree等
4.经典分类方法
4.1 决策树
p16
引入:高尔夫问题
小王是一家著名高尔夫俱乐部的经理。但是他被雇员数量问题搞得心情十分不好。某些天好像所有人都來玩高尔夫,以至于所有员工都忙的团团转还是应付不过来,而有些天不知道什么原因却一个人也不来,俱乐部为雇员数量浪费了不少资金。
小王的目的是通过下周天气预报寻找什么时候人们会打高尔夫,以适时调整雇员数量。因此首先他必须了解人们决定是否打球的原因。
在2周时间内我们得到以下记录:
天气状况有晴,云和雨;气温用华氏温度表示;相对湿度用百分比;还有有无风。当然还有顾客是不是在这些日子光顾俱乐部。最终他得到了14列5行的数据表格。
在这个问题中 决策树模型被建起来用于解决问题
决策树是一个有向无环图。
根据数据集 根据决策树一个一个环节的判断 最终找出来规律——得知啥时候有人打高尔夫 啥时候没人打
这就通过分类树给出了一个解决方案。 小王在晴天,潮湿的天气或者刮风的雨天解雇了大部分员工,因为这种天气不会有人打高尔夫。而其他的天气会有很多人打高尔夫,因此可以雇用一些临时员工来工作。
所以得到——
引入小结
决策树可以帮助我们把负责的数据转换成相对简单、直观的结构