2.2残差预训练网络ResNet和GAN网络

完成了对狗图片的分类识别。并且尝试替换了图片。使用女性和猫的照片尝试了书上示例的代码，但是两者效果都比较一般。没有明确分类出女性，而是分类到了内衣选项。猫的话使用的是英短猫，但是模型识别为波斯猫。或者埃及猫。

在模型当中有不少使用中括号，或者小括号来回嵌套的地方，需要注意。

弄清了PyTorch神经网络有evaluate。和train两种模式。其中evaluate模式是不改变模型的权重，不drop隐藏层的数据。来使模型获得最好最大的输出。

询问了bottleneck模式。Bottleneck，瓶颈，神经网络中有很多的瓶颈，它的作用主要是起到先降维、运算、再升维的一个过程。

对特征图的深度做了一些了解，深度使图像的数量，通道数是数学上的维度。相当于是数学上的维度，是一组独立的向量。例如颜色就是rgb三个维度。此外，比如气象站会有温度，湿度，风速等彼此独立的变量这样就可以构成更维度的变量。

关于激活函数ReLU有了一些了解。ReLU是最简单的非线性函数，而只要有非线性函数的话，根据通用近似定理就可以去逼近任何一个连续函数。也是神经网络的理论基础。除了ReLU以外还可以对它进行变形，例如layer ReLU。就是在负值去取一个小的负的线性值。然后还有exponential ReLU，就是把负值区域变成一个非线性的曲线。当然他们都会较大的增加模型计算量，因为本身负轴取值为零，就是为了实举阵稀疏的。

然后了解了带下划线变量名的作用。它主要是使用在类里面，代表一个类里面的交通规则。在这里有很多不错的比方，例如车辆启动，停车，寻找车位等。

***************************************

GAN开了一点头。就像是去画假画，识别它画假画的能力，再改进它。是两个互相对抗的神经网络。

学习了从Jupyter notebook中加载另一个代码文件中代码的方法。不能跨文件加载，必须要复制到当前文件中才可以。

下面要去尝试把马替换成斑马。斑马再替换成马的图片实验了。