机器学习基础

相关基本概念

机器学习=统计学习=算法+理论（统计学习）=概率（核心）+凸优化+矩阵分析=人工智能
人工智能（AI）>机器学习（获取数据-> 构造模型（统计模型） -> 学到一些知识来解决问题）>深度学习（特殊的机器学习 神经网络）

• c（概念）：x（数据集）->y（目标）：y是离散的话叫分类问题 、y是连续的话叫回归问题
• 样本集S（x1，x2…xm）
• lables（c（x1）就是y1，c（x？））：结果集
• 假设h ：S样本集不同的话、逼近不同的大H
• 泛化错误：在所有的数据集上、未知的错误的平均值
• 经验错误：给的S样本中的错误
• pac：概率近似正确、用pac概念可以估计泛化误差：泛化误差为0的概率趋近于1