Udacity监督学习——决策树

分类任务 回归任务

• 分类任务和回归任务的不同，不在于输入，而在于输出

• 分类（Classification）：输出来自（小的）离散集
• 回归（Regression）：输出来自连续值

分类学习

• 实例（input）：值和属性的向量输入
• 概念：描述一个事物集合的东西。世界上物体之间的映射，以及一个集合中的成员关系。
• 目标概念：实际的答案
• 假设类（Hypythsis Class）：你愿意考虑的所有概念的集合

决策树的可表达性

• AND

A AND B
改变A和B的顺序，对决策树没有影响。
因为他们在函数中发挥相同的作用。
你所挑选的属性，或者执行属性操作的顺序，并不重要

• OR

A OR B
互换仍然有效
因为他们具有协作性/交换性
这个的树其实是AND树的镜像！

-XOR

其实就是二选一的意思，你只可以选一个，也必须进行选择
A XOR B
它的树是一张完整的真值表

• 注意这里如果是一个n个判断的函数的情况~

OR
- linear n个节点

XOR
- 指数级的 （2的n次方-1）个节点