机器学习算法基础知识

一、机器学习概念

老提机器学习，每次想起想表达其意思，发现总有点差。在这里再做一个综述：

其实机器学习是针对数据的一种建模技术，即从数据中学习和提取有用的信息，不断改善机器的性能。机器学习的基本工作是从训练数据中学习规则，利用这些规则预测新的数据。深度学习是机器学习的一个子类，而机器学习是人工智能的一个子类。

二、机器学习算法的分类

机器学习根据任务的不同分为监督学习、无监督学习、半监督学习以及增强学习。

• 监督学习：训练数据中包含了类别信息，即训练数据中包含特征和标签信息。其常见的两种应用是分类（判定类别）和回归（预测数值）。分类和回归的主要区别是分类算法中的标签是离散的值，而回归是连续的值，分类问题如垃圾邮件的分类、手写字辨识，回归问题如股票价格的预测、房价的预测。典型的算法有Logistic Regression、BP神经网络算法和线性回归算法。
• 无监督学习：训练数据不包含任何的类别的信息，即训练数据不包含标签信息，只包含特征，其算法自行发现数据中的联系，在学习时不知道分类结果是否正确。其典型应用是聚类和降维算法，聚类算法利用样本的特征将具有相似特征的样本划分到一个类别中，但不关心具体是什么。算法主要有K-Means算法、DBSCAN算法。
• 半监督学习：介于监督和无监督之间，即一部分数据有类别信息，一部分数据没有。其算法一般是在监督学习的算法上进行扩展。

在后面将重点介绍分类算法、回归算法、聚类算法、推荐算法以及深度学习。

 

 

参考文献：赵志勇《　Ｐｙｔｈｏｎ　机器学习算法》