机器学习自学笔记 1

机器学习绪论

什么是机器学习

机器学习是一个让机器无需显著性编程就可以进行学习的研究领域，通过非显著式编程可以让机器利用经验改善系统自身的性能，非显著式编程就是让计算机自己总结规律的编程方法目前主要是研究智能数据分析的理论和方法。

机器学习分类

机器学习可以分类为监督学习和强化学习。监督学习通过数据对应的标签可以分为传统监督学习、非监督学习、半监督学习，通过数据标签连续与否可以分为分类问题和回归问题。传统监督学习里面经典算法有支持向量机、人工神经网络、深度神经网络；非监督学习经典算法有聚类、EM算法、主成分分析。监督学习最大的特点便是每个数据都有其对应的标签用于学习，由此可知传统监督学习便是全部数据都有其对应的标签，无监督学习则是数据没有标签，半监督学习则是数据部分有对应的标签。而强化学习则是通过试错学习如何采取行动以最大化某种奖励信号。

机器学习算法的过程

1、特征提取

通过观察数据特征，提取出所需要的特征以进行后续构造性能优良的机器学习算法。

2、特征选择

选择对算法性能具有提升的特征。

3、算法设计与选择

通过选择合适的算法，设计出自己的机器学习算法，训练后通过特征空间比对实现功能。

没有免费午餐定理

在选择机器学习算法时，我们会有疑惑：到底什么算法更适合我们目前的任务呢？没有免费午餐定理告诉我们，任何一个算法都不可能适合于所有的任务，假若我们不对特征空间的先验分布进行假设，那么我们在选择算法时可能会出现错误。因此，在机器学习的任务过程中，我们需要根据自己的具体情况来进行算法的选择。这需要长时间的实践和经验的积累。