《百面机器学习》读后总结

自己12日上午开始，到14日晚上看完，基本用时三天，里面好多东西都读不懂，除了神经网络、卷积神经网络和对抗生成式神经网络。总体来说这本书还是蛮不错的，第一遍读不懂没有关系，以后对深度学习了解深入了再看一遍就明白了。这本书的架构还是很好的，便于建立起机器学习的整个架构。全书一共14章，接下来我大致总结下自己的所得，希望大家指正和批评。

第一章  特征工程

主要讲的是特征的归一化、特征的预处理(编码类型：序号编码(Ordinal Encoding)、独热编码(One-hot Encoding)、二进制编码(Binary Encoding))、组合特征、扩充数据集的方法（一定程度内的平移旋转缩放裁剪填充左右翻转等、添加噪声扰动、颜色变换、改变图像的亮度清晰度对比度锐度）。至于还有文本表示模型和Word2Vec我目前暂时接触不到。

第二章 模型评估

主要讲的是评估指标（准确率、召回率、F1score）、余弦距离（与之相对的是欧氏距离）的应用、超参数的调优、过拟合和欠拟合。至于ROC曲线、A/B测试的陷阱、模型评估的方法我看的不是很懂。

第三章 经典算法

主要讲的是支持向量机、逻辑回归（逻辑回归主要用于解决分类问题、线性回归处理的是回归问题）、决策树（涉及到启发函数、剪枝等操作）。我对逻辑回归接触的比较多，对支持向量机和决策树不是很了解。

第四章 降维

这一章我基本都不是很了解，包括PCA最大方差理论、PCA最小平方误差理论、线性判别分析、线性判别分析和主成分分析。

第五章 非监督学习

K均值聚类（这个方法很有名，需要掌握的，包括算法步骤、优缺点和调优过程（手肘法）等）、高丝混合模型（这个暂时没有接触过）、自映射神经网络（没接触过）、还有聚类算法的评估。

第六章 概率图模型

本章我直接略过了，它包括的我都不了解，包括：概率图模型的联合概率分布、概率图表示、生成式模型与判别式模型、马尔科夫模型（这个很有名，回头需要单独研究下）、主题模型。

第七章 优化算法

主要讲的包括：有监督学习的损失函数（比如包括平方损失函数，光滑函数能够用提速下降法进行优化；绝对值损失函数；Huber损失函数，处处可导、对异常点鲁棒）、机器学习中的优化问题（涉及到凸函数的概念）、经典优化算法、梯度验证、随机梯度下降法、随机梯度下降法的加速（惯性保持和环境感知）、L1正则化与稀疏性（这一块知识暂时不了解）。

第八章 采样

这一章我也不了解，具体包括：采样的作用、均匀分布随机数、常见的采样方法、高斯分布的采样、马尔科夫蒙特卡洛采样法、贝叶斯网络的采样。不均衡样本点的重采样。

第九章 前向神经网络

多层感知机与布尔函数（直接略过）、深度神经网络中的激活函数（常用的有sigmoid、tanh、relu）、多层感知机的反向传播算法（吴恩达深度学习视频有具体推导过程）、神经网络的训练技巧（参数初始化不能全为0、Dropout抑制过拟合、批量归一化的动机、原理和使用）、深度卷积神经网络（卷积操作的本质特性包括稀疏交互和参数共享、常用的池化操作（最大值-提取纹理；平均值-背景保留），池化作用为抽象、降采样的过程，DCGAN正好与之相反，是具象，升采样的过程）、深度残差网络（ReNet提出的背景以及核心，残差网络的由来和定义）

第十章 循环神经网络

自己狭隘的理解这一章的主要应用范围为NLP，因此大致略过了，其主要包括：循环神经网络和卷积神经网络、循环神经网络的梯度消失的问题、循环神经网络的激活函数、长短期记忆网络、Seq2Seq模型、注意力机制。

第十一章 强化学习

因为自己的主攻方向是GAN，因此这一章内容也快速跳过了。其主要包括：强化学习基础、视频游戏里的强化学习、策略梯度、探索与利用。

第十二章 集成学习

已跳过。其包括集成学习的种类、集成学习的步骤和例子、基分类器、偏差与方差、梯度决策树的基本原理、XGBoost与GBDT的联系和区别。

第十三章 生成式对抗网络

GAN的基本思想和训练过程（GAN本身是无监督学习，但是GAN利用了监督学习的方法）、WGAN抓住低维的幽灵、DCGAN当GANs遇上卷积、AI包揽推断业务（生成网络和推断网络的融合）、IRGAN生成离散样本（这一节我没有深入研究）、SeqGAN生成文本序列（跳过）

第十四章 人工智能的热门应用

计算广告、游戏中的人工智能、AI在自动驾驶中的应用（L1~L5智能驾驶等级的划分）、机器翻译、人机交互中的智能计算。