第2章:机器学习基本方法 - 模型评估与模型参数选择
1. 模型评估与参数选择的重要性
- 在人工智能领域,机器学习模型的评估和参数选择是至关重要的步骤。
- 模型评估帮助我们理解模型在实际应用中的表现,而参数选择则影响模型的学习能力和最终性能。
2. 模型评估的基本概念
- 误差:模型预测输出与真实输出之间的差异。
- 经验误差/训练误差:模型在训练集上的表现。
- 泛化误差:模型在新样本上的表现,是衡量模型泛化能力的关键指标。
3. 数据集的划分
- 训练集:用于训练模型的数据集。
- 验证集:用于模型调优和超参数选择的数据集,帮助我们评估模型在新数据上的表现。
- 测试集:用于最终评估模型性能的数据集,模拟实际应用场景。
4. 过拟合与欠拟合
- 过拟合:模型在训练集上表现良好,但在新数据上表现不佳。
- 原因:训练数据太少,模型复杂度过高,数据不纯。
- 解决方法:减少特征,增加数据量,数据增强,正则化,早停。
- 欠拟合:模型在训练集上表现就不佳。
- 原因:数据未归一化,模型复杂度不够,特征不足。
- 解决方法:优化权重初始化,增加网络层数和训练次数,使用合适的激活函数和优化器。
5. 数据集划分代码示例
- 提供了一个Python代码示例,展示了如何根据给定比例划分训练集、验证集和测试集。
6. 课堂练习
- 通过判断题和选择题,加深对模型评估和参数选择概念的理解。
第3章:机器学习基本方法 - 监督学习
1. 监督学习与非监督学习
- 监督学习:数据包含输入和输出,目标是学习一个映射规则,使得模型能够预测新数据的输出。
- 非监督学习:数据仅包含输入,目标是发现数据的内在结构。
2. 回归与分类
- 回归问题:预测连续值,如房价、销售额等。
- 常用损失函数:均方误差(MSE)。
- 分类问题:预测离散值,如判断图片中的物体类别。
- 评估指标:准确率(Accuracy)、精确率(Precision)、召回率(Recall)、F1分数。
3. 回归问题的应用
- 预测房价和销售额等,通过线性回归模型,分析不同因素对预测结果的影响。
4. 分类问题的评估指标
- 准确率:衡量整体预测准确程度。
- 精确率:衡量预测为正样本中实际为正样本的概率。
- 召回率:衡量实际为正样本中被预测为正样本的概率。
- F1分数:精确率和召回率的调和平均数。
5. PR曲线和mAP
- PR曲线:精确率和召回率的关系图。
- mAP:多个类别AP的平均值,衡量分类器性能。
6. 课堂练习
- 通过选择题,理解预测任务属于回归问题还是分类问题。