机器学习笔记——入门篇

目录

一.有监督式学习
二.无监督式学习
三.半监督学习
四.侦查学习
五.没有免费午餐定理

一.有监督式学习（Supervised learing）

监督式学习（英语：Supervised learning），是一个机器学习中的方法，可以由训练资料中学到或建立一个模式（函数 / learning model），并依此模式推测新的实例。训练资料是由输入物件（通常是向量）和预期输出所组成。函数的输出可以是一个连续的值（称为回归分析），或是预测一个分类标签（称作分类）。

有监督学习强调有数据，有标签

可分为分类（classification）与回归（regression）

常用算法：支持向量机（SVM），神经网络（NEURAL NETWORKS）， 深度学习

二.无监督式学习（Unsupervised learning）

根据类别未知(没有被标记)的训练样本解决模式识别中的各种问题，称之为无监督学习。

无监督式学习强调有数据，无标签

常用算法；clustering(聚类），EM算法（EM algorithm），降维（PCA）

三.半监督学习（Semi-Supervised learning

半监督学习(Semi-Supervised Learning，SSL)是模式识别和机器学习领域研究的重点问题，是监督学习与无监督学习相结合的一种学习方法。半监督学习使用大量的未标记数据，以及同时使用标记数据，来进行模式识别工作。

半监督学习强调部分数据有标签，部分数据无标签

四.侦察学习，强化学习（Reinforcement learning）

强化学习（Reinforcement Learning,RL），又称再励学习、评价学习或增强学习，是机器学习的范式和方法论之一，用于描述和解决智能体（agent）在与环境的交互过程中通过学习策略以达成回报最大化或实现特定目标的问题

侦察学习强调对总体的评价

五.没有免费午餐定理（No Free Launch Theroem）

定理简述：如果我们不对特征空间有先验假设，则所有算法的平均表现是一样的