机器学习基础--一些基本的概念

前言

开始重新巩固一下机器学习的内容，先从基本的一些概念和定义开始。

本文介绍的内容如下所示：

1. 机器学习的基本定义
2. 局部最优和全局最优
3. 机器学习、深度学习、数据挖掘、大数据之间的关系
4. 为什么要使用机器学习

---

1. 机器学习的基本定义

机器学习算法是一种能够从数据中学习的算法。那么这里的学习的定义是什么呢？这里有一个简单的定义：

对于某类任务 T 和性能度量 P，一个计算机程序通过经验 E 改进后，在任务 T 上由性能度量 P 衡量的性能有所提升，这称为学习。

举例来说这个定义，比如对于图像分类这个任务，一般的性能度量 P 就是分类的准确率，而经验 E 其实就是图片数据集，当我们采用的算法，比如 CNN，在给定的训练集上训练后，然后在测试集上的准确率有所提升，这就是学习了。

这里的任务 T、经验 E 和性能 P 其实指代的内容非常的多，这里简单的介绍一下。

首先，对于任务 T，在机器学习领域里，可以是这些方向的任务：

• 分类：在该任务中计算机程序需要判断输入数据是属于给的 k 类中的哪一类，最常见的就是人脸识别，也是图像分类的一个子方向，另外还有语音识别、文本识别等；

• 回归：在该任务中需要对给定的输入预测数值，比如预测房价或者证券未来的价格等；

• 转录：将一些相对非结构化表示的数据，转录为离散的文本形式。比如 OCR（光学字符识别）、语音识别等；

• 机器翻译：将一种语言的序列转化为另一种语言。比如英语翻译为中文；

• 异常检测：查找不正常或者非典型的个体；

• 去噪

• 等等

对于性能度量 P，在不同的任务中会采用不同的性能指标，比如：

• 准确率和错误率
• 召回率、精准率、F1
• ROC 和 AUC
• 均方误差（MSE）、均方根误差（RMSE）
• 交并比 IoU

而经验 E，一般就是指数据集了，不同的任务对数据集的要求也不一样，比如图片分类一般就是图片和图片的标签，但目标检测、图像分割，需要的除了图片、标签，有的还需要图片中物体的标注框或者坐标信息等。

2. 局部最优和全局最优

优化问题一般分为局部最优和全局最优。其中，

1. 局部最优，就是在函数值空间的一个有限区域内寻找最小值；而全局最优，是在函数值