机器学习一些基本概念（笔记）

1、机器学习的定义

• 广义上来说，机器学习是一种能够赋予机器学习的能力以此让它完成直接编程无法完成的功能的方法

• 但从实践的意义上来说，机器学习是一种通过利用数据，训练出模型，然后使用模型预测的一种方法。

---

2、机器学习的范围

• 模式识别=机器学习。模式识别源自工业界，而机器学习来自于计算机学科。

• 数据挖掘=机器学习+数据库。大部分数据挖掘中的算法是机器学习的算法在数据库中的优化。

• 统计学习近似等于机器学习。统计学习偏数学，而机器学习更关注解决实际问题，偏实践。

• 计算机视觉=图像处理+机器学习。

• 语音识别=语音处理+机器学习。

• 自然语言处理=文本处理+机器学习。

---

3、机器学习的方法

监督学习算法：

• 线性回归：属于回归问题。梯度下降法是解决回归模型中最简单且有效的方法之一。

• 逻辑回归：只是对对线性回归的计算结果加上了一个Sigmoid函数。

• 神经网络：在神经网络中，每个处理单元事实上就是一个逻辑回归模型，BP算法是加速神经网络训练过程的数值算法。

• SVM：通过跟高斯“核”的结合，支持向量机可以表达出非常复杂的分类界线，“核”事实上就是一种特殊的函数，最典型的特征就是可以将低维的空间映射到高维的空间。可以通过在三维空间中进行简单的线性划分就可以达到在二维平面中的非线性划分效果。

无监督学习算法：

• 聚类算法：聚类算法中最典型的代表就是K-Means算法。

• 降维算法：主要特征是将数据从高维降低到低维层次，加速训练效率。主要特征是将数据从高维降低到低维层次。

特殊算法：

• 推荐算法

一些子算法：梯度下降法，主要运用在线型回归，逻辑回归，神经网络，推荐算法中；牛顿法，主要运用在线型回归中；BP算法，主要运用在神经网络中；SMO算法，主要运用在SVM中。

---

4、机器学习的应用–大数据

• 随着大数据概念的兴起，机器学习大量的应用都与大数据高度耦合，几乎可以认为大数据是机器学习应用的最佳场景。

• 机器学习仅仅是大数据分析中的一种，大数据中包含有分布式计算，内存数据库，多维分析等等多种技术。

• 大数据技术中的分布式计算Map-Reduce使得机器学习的速度越来越快

---

5、机器学习的子类和父类

• 机器学习的子类–深度学习

• 机器学习的父类–人工智能

---

参考：https://www.cnblogs.com/hellochennan/p/5423740.html