前言
开始重新巩固一下机器学习的内容,先从基本的一些概念和定义开始。
本文介绍的内容如下所示:
- 机器学习的基本定义
- 局部最优和全局最优
- 机器学习、深度学习、数据挖掘、大数据之间的关系
- 为什么要使用机器学习
1. 机器学习的基本定义
机器学习算法是一种能够从数据中学习的算法。那么这里的学习的定义是什么呢?这里有一个简单的定义:
对于某类任务 T 和性能度量 P,一个计算机程序通过经验 E 改进后,在任务 T 上由性能度量 P 衡量的性能有所提升,这称为学习。
举例来说这个定义,比如对于图像分类这个任务,一般的性能度量 P 就是分类的准确率,而经验 E 其实就是图片数据集,当我们采用的算法,比如 CNN,在给定的训练集上训练后,然后在测试集上的准确率有所提升,这就是学习了。
这里的任务 T、经验 E 和性能 P 其实指代的内容非常的多,这里简单的介绍一下。
首先,对于任务 T,在机器学习领域里,可以是这些方向的任务:
-
分类:在该任务中计算机程序需要判断输入数据是属于给的 k 类中的哪一类,最常见的就是人脸识别,也是图像分类的一个子方向,另外还有语音识别、文本识别等;
-
回归:在该任务中需要对给定的输入预测数值,比如预测房价或者证券未来的价格等;
-
转录:将一些相对非结构化表示的数据,转录为离散的文本形式。比如 OCR(光学字符识别)、语音识别等;
-
机器翻译:将一种语言的序列转化为另一种语言。比如英语翻译为中文;
-
异常检测:查找不正常或者非典型的个体;
-
去噪
-
等等
对于性能度量 P,在不同的任务中会采用不同的性能指标,比如:
- 准确率和错误率
- 召回率、精准率、F1
- ROC 和 AUC
- 均方误差(MSE)、均方根误差(RMSE)
- 交并比 IoU
而经验 E,一般就是指数据集了,不同的任务对数据集的要求也不一样,比如图片分类一般就是图片和图片的标签,但目标检测、图像分割,需要的除了图片、标签,有的还需要图片中物体的标注框或者坐标信息等。
2. 局部最优和全局最优
优化问题一般分为局部最优和全局最优。其中,
- 局部最优,就是在函数值空间的一个有限区域内寻找最小值;而全局最优,是在函数值空间<