读书笔记-计算机视觉

书名：《深度学习之PyTorch实战计算机视觉》-唐进民

目的

记录读书过程中有帮助的内容

方法

损失和优化

损失	定义 用来度量模型的预测值和真实值之间的差距，也是用来衡量我们训练出的模型的泛化能力好坏的重要标准 损失函数 列举几种常见的损失函数 交叉熵损失函数 损失函数｜交叉熵损失函数 (zhihu.com) 均方误差、均方根误差和平均绝对误差
优化	Page40-42 几种常见的优化函数如：梯度下降、批量梯度下降、随机梯度下降。 它们之间的区别仅在于用于参加训练的数据集的划分不同： （全局）梯度下降 使用全部的数据集进行训练，以全部数据的计算得到的损失值为基准对模型中的全部参数进行梯度更新。 批量梯度下降 将整个参与训练的数据集划分为若干个大小差不多的训练数据集，每次使用一个批量的数据进行训练和模型参数的梯度更新。 随机梯度下降 通过随机的方式从整个参与训练的数据集中选取一部分来参与模型的训练。 然后介绍一种“智能”的优化函数方法，Adam（Adaptive Moment Estimation，自适应时刻估计方法）。 作用： 在训练优化的过程中通过让每个参数都获得自适应的学习率，来达到优化质量和速度的双重提升。

卷积神经网络

Page51-56

主要包括下面一些层：

卷积层	作用 通过卷积核（filter）对输入的数据进行特征提取 图像卷积前后的尺寸变化 注意：不同通道的卷积核可能不同，这也论证了在卷积神经网络中，为什么经过卷积层的数据的通道数量可以增加，因为可能分别使用了不同的卷积核进行卷积。
池化层	作用 实现了对原始数据的压缩，减少了参与模型运算的参数，提高的运算效率 分类 分为最大池化和平均池化，比较好理解，不多介绍。 池化前后图像尺寸的变化 与卷积层唯一的区别是没有填充像素。
全连接层	作用 进一步压缩特征，且根据压缩的特征完成模型的分类功能。