目录
第一章 绪论
1.1 机器学习
计算机程序从经验E中学习,解决某一任务T,假设用P作为性能度量,若P测定T的性能表现因经验E而提高,则称关于T和P,该程序对E进行了学习。
1.2 监督学习
利用一组已知类别的样本学习一个模型,使模型能够对任意的给定的输入,对其相应的输出做出一个好的预测。
回归:输入变量与输出变量均为连续变量
分类:输出变量为有限个离散变量
1.3 无监督学习
根据类别未知(没有被标记)的训练样本解决模式识别中的各种问题。
聚类:把相似的样本聚在一起
第二章 线性回归
2.1 单变量线性回归
2.1.1 模型描述
2.1.2 批量梯度下降
2.2 多变量线性回归
2.2.1 模型描述
2.2.2 多元梯度下降法
2.2.3 梯度下降实用技巧
2.2.3.1 训练快速收敛——特征缩放
2.2.3.2 判断训练是否正常——代价函数-迭代轮次图
2.2.4 特征与多项式线性回归
2.2.4.1 特征选择
2.2.4.2 多项式线性回归
2.2.5 正规方程
第三章 逻辑回归
3.1 模型描述
3.2 代价函数
3.2.1 代价函数优化
3.2.2 代价函数高级优化
3.3 多元分类
第四章 正则化
4.1 过拟合问题
4.2 正则化
4.3 线性回归正则化
4.4 逻辑回归正则化
第五章 神经网络
5.1 模型描述
5.1.1 神经元
5.1.2 神经网络
5.1.3 多元分类
5.2 反向传播算法
5.2.1 反向传播算法
5.2.2 梯度检测
5.2.3 随机初始化
5.3 总结
第六章 模型评估与选择
6.1 模型评估
6.2 模型选择
6.3 误差诊断
6.3.1 方差偏差判断
6.3.2 正则化对方差偏差影响
6.3.3 学习曲线
6.4 机器学习系统设计
6.5 偏斜类问题的误差评估
第七章 支持向量机
7.1 模型描述
7.2 大间隔分类器
7.3 核函数
7.4 SVM参数影响
7.4.1 高斯核函数
7.4.2 正则化参数
7.5 SVM实践
7.5.1 应用SVM
7.5.2 多分类SVM
7.5.3 逻辑回归VS支持向量机
第八章 无监督学习
8.1 聚类
8.1.1 K-Means聚类算法
8.1.2 优化目标
8.1.3 随机初始化
8.1.4 聚类数量选取
8.2 降维
降维目的主要有两个:数据压缩和数据可视化