机器学习笔记及学习心得 （1）引言

1. 机器学习(machine learning)：是一门学科，致力于研究如何通过计算的手段，利用经验来改善系统自身的性能(西瓜书)。
2. 监督学习(supervised learning)：我们教计算机如何去完成任务，其基本思想是，我们数据集中的灭一个样本都有相应的“正确答案”，再根据这些样本做出预测
3. 无监督学习(unsupervised learning)，我们让计算机自己进行学习，即无监督学习中没有任何的标签或者是有相同的标签或者就是没标签
4. 分类(classification)：如果预预测的是离散值，这类任务被称为分类
5. 回归(regression)：如果预预测的是连续值，这类任务被称为回归
6. 泛化(generalization)：训练后的模型适用于新样本的能力
7. 独立同分布(independent and identically distributed 简称iid)：通常假设样本空间中的全体样本服从一个未知分布(distribution)，我们获得的每个样本都是独立地从这个分布中采样获得的，即独立同分布