机器学习基石笔记2——机器学习类型

机器学习基石笔记——机器学习类型

这节课主要归纳了机器学习得类型

1.按照输出空间划分

机器学习按照输出空间划分，可以划分为：二元分类，多元分类，回归，结构化学习等不同类型。其中最基础的用的最多的就是二元分类和回归。

• 二元分类
  二元分类是机器学习中非常核心和基本的问题,银行派发信用卡的问题就是一个典型的二元分类问题,还有一些垃圾邮件判别的问题.二元分类又线性模型和非线性模型.
• 多元分类
  多元分类的输出多于两个,$y={1,2,…,k},多元分类一般用于数字识别等方面

* 回归分类 如果要预测股票收益的时候,输出的y=R,输出的范围是整个实数空间,是连续的,相对于二元和多元分类是离散的,我们这类叫做回归.典型的回归问题就是线性回归

2.按照输出标签$y_n$划分

机器学习按照输出标签$y_n$划分包括,监督式学习,无监督式学习,半监督式学习,和强化学习等.

• 监督式学习
  如果训练样本中既有输入特征x,也有输出特征$y_n$,这种类型称之为监督式学习,监督式学习可以是二分类,多分类,回归.
• 无监督学习
  如果训练样本中没有输出标签$y_n$,这样的学习类型叫做无监督学习,无监督学习一般应用在聚类问题,比如对网页上的新闻进行自动分类;密度估计:对于交通状况的分析.
• 半监督式学习
  一部分数据有输出标签$y_n$,一部分没有输出标签$y_n$
• 强化学习
  强化学习中，我们给模型或系统一些输入，但是给不了我们希望的真实的输出y，根据模型的输出反馈，如果反馈结果良好，更接近真实输出，就给其正向激励，如果反馈结果不好，偏离真实输出，就给其反向激励。不断通过“反馈-修正”这种形式，一步一步让模型学习的更好，这就是强化学习的核心所在。强化学习可以类比成训练宠物的过程，比如我们要训练狗狗坐下，但是狗狗无法直接听懂我们的指令“sit down”。在训练过程中，我们给狗狗示意，如果它表现得好，我们就给他奖励，如果它做跟sit down完全无关的动作，我们就给它小小的惩罚。这样不断修正狗狗的动作，最终能让它按照我们的指令来行动。实际生活中，强化学习的例子也很多，比如根据用户点击、选择而不断改进的广告系统.

3.按照不同的协议(输入方式)划分

机器学习按照输入方式来划分可以分为,Batch ,Online, Active Learning

• Batch Learning
  batch learning获得的训练数据D是一批的，即一次性拿到整个D，对其进行学习建模，得到我们最终的机器学习模型。batch learning在实际应用中最为广泛。
• Online
  online是一种在线学习模型，数据是实时更新的，根据数据一个个进来，同步更新我们的算法。比如在线邮件过滤系统，根据一封一封邮件的内容，根据当前算法判断是否为垃圾邮件，再根据用户反馈，及时更新当前算法。这是一个动态的过程。之前我们介绍的PLA和增强学习都可以使用online模型。
• Active learning
  active learning是近些年来新出现的一种机器学习类型，即让机器具备主动问问题的能力，例如手写数字识别，机器自己生成一个数字或者对它不确定的手写字主动提问。active learning优势之一是在获取样本label比较困难的时候，可以节约时间和成本，只对一些重要的label提出需求。

4.按照输入x的类型来划分

按照输入x的类型可以划分为,concrete features,raw feature,abstract features.

• concrete features
  比如银行客户的年龄和收入;病人的信息特征
• raw features
  手写数字识别中每个数字所在图片的mxn像素值；比如语音信号的频谱等。raw features一般比较抽象，经常需要人或者机器来转换为其对应的concrete features，这个转换的过程就是Feature Transform
• abstract features
  输入的x完全是没有物理意义的抽象特征,需要对其特征进行提取和转换.