《scikit-learn机器学习 第2版》
第1章 机器学习基础
机器学习:通过经验学习知道未来决策
机器学习分为监督学习和无监督学习
监督学习:分类类别已知
机器学习的输入称为解释变量,输出称为响应变量
组成监督学习经验的实例集合称为训练集,衡量程序性能的实例集合称为测试集
常见的监督机器学习有分类和回归
分类的响应变量为离散值,回归的响应变量为连续值
降维:发现对响应变量变化影响最大的特征过程
测试集:用于使用一些衡量标准来评估模型性能
注:选用测试集的策略,不把训练集中的观测值包含在测试集中,如果包含则很难估计算法是真的从训练集中学习到了泛化能力,还是只是简单的记住了训练例子。
过拟合:模型记住了训练数据的程序可预测训练集但无法预测新的例子,那模型对训练集产生记忆称为过拟合。
正则化:应用于模型中减少过拟合
验证集:用来微调被称为超参数的变量,超参数用于控制算法如何从训练数据中学习
所有用于机器学习的数据集中,训练集占50% - 70