深度学习（笔记内容）

1.国内镜像网站

pip使用清华源镜像源
pip install <库> -i https://pypi.tuna.tsinghua.edu.cn/simple/

pip使用豆瓣的镜像源
pip install <库> -i https://pypi.douban.com/simple/

pip使用中国科技大学的镜像源
pip install <库> -i https://pypi.mirrors.ustc.edu.cn/simple/

pip使用阿里云的镜像源
pip install <库> -i http://mirrors.aliyun.com/pypi/simple/

2.pycharm配置conda环境

3梯度下降法公式案例

梯度下降案例，其中mean方法传入数组，计算平均值

4逻辑回归原理

5分类和回归模型的评价指标

分类模型


回归模型

6全连接神经网络的流程

初始化w和b进行前向传播计算出y值，再计算loss值与loss函数
反向传播计算梯度，利用梯度更新参数，再重新计算loss值，可得更接近于label值

7卷积神经网络

7.1 与全神经网络的区别

1. 输入数据的处理方式

全神经网络：在全神经网络中，输入的数据通常是展平的一维向量。也就是说，原本二维的图像（如28x28像素的图像）会被展平成一个一维向量（784个像素）。这种处理方式丧失了图像的空间结构信息，因此网络无法有效地捕捉图像中的局部特征。

卷积神经网络：卷积神经网络则保留了图像的二维结构。通过卷积层，CNN能够在保持图像空间关系的同时提取局部特征。这使得CNN在识别图像时能够更好地捕捉边缘、角落等重要特征，从而提高了识别的准确性。

2. 局部连接与共享权重

全神经网络：全神经网络中的每个神经元与前一层的所有神经元相连接，这意味着网络的参数数量庞大，容易导致过拟合。同时，这种全连接结构忽略了图像的局部特性，无法有效捕捉局部特征。

卷积神经网络：卷积神经网络通过局部连接和共享权重的方式减少了参数数量。卷积核在图像上滑动，提取局部特征，并在整个图像中共享这些特征。这种方式不仅减少了参数数量，还能够有效捕捉图像的空间结构信息。

3. 空间不变性

全神经网络：由于全神经网络直接将图像展平，无法保持图像的空间不变性。即使图像中的对象在空间位置上发生了变化，全神经网络也难以识别。

卷积神经网络：卷积神经网络通过池化层（如最大池化层）实现了空间不变性。池化层能够缩小图像尺寸，同时保留重要特征，使得网络对图像中对象的空间位置变化具有更强的鲁棒性。

结论
综上所述，全神经网络在处理图像时，由于其展平输入数据和全连接结构，无法有效地捕捉图像的空间结构信息和局部特征。而卷积神经网络通过卷积层、池化层等结构，保留了图像的空间结构，能够更好地提取和利用局部特征，从而在图像识别任务中表现更优。

7.2 卷积运算

卷积的运算过程：数据窗口的大小和卷积核的大小相同，一一对应的与卷积核内每个的权重相乘的和就是结果

7.3核心内容权重共享的理解

7.4卷积运算后的特征图大小公式

其中H是原图的高，OH是特征图的高
P是填充了多少层
FH是卷积核的高

W同理是宽

7.5 多通道卷积运算

F是卷积核，O是输出图
输入特征图的通道数为c，那么卷积核的深度与之相同，输入图每一个通道都与单位深度切片的卷积核进行卷积运算，得到c个卷积输出图，再将c个输出图相加，得到最终的一个卷积核运算输出图，如果有N个卷积核，那么输出图的深度就为n

如图

7.6 池化层

公式与卷积层一样，但是注意的是，池化并不会影响输入图的通道数

8 LeNet卷积神经网络