- 博客(4)
- 收藏
- 关注
RSS订阅原创 深度学习week4
当分组卷积的分组数量等于输入map数量，输出map数量也等于输入map数量时就成了Depth-wise Convolution。分组卷积是将输入层的不同特征图进行分组，然后采用不同的卷积核再对各个组进行卷积，这样会降低卷积的计算量。在 ShuffleNet 中，通道的 shuffle 如何用代码实现？shuffle操作即将通道的顺序打乱，使用transpose可以实现。空间注意力机制一般采用将不同通道的注意力相加的策略。进行数据增强，构造更深的网络，使用残差网络。这样只会在训练的时候开启dropout。
2023-08-04 11:23:55
32
1
原创 深度学习week3
需要特别注意的是np.expand_dims(testimg,0)的这一步，看了一些博客，大概意思是原图是三个维度，训练时的输入是一个batch一起输入的，所以有batch这第四个维度，因此要加一个空的维度才能匹配上。神经网络深度增加对准确度的提升是显著的，但是传统的神经网络有梯度消失的问题，而残差块由于有加项，在求导之后至少有一个+1项，能有效解决梯度消失问题，从而允许训练更深的网络。先对每一个神经元的特征进行归一化，再将当前层的每个神经元之间的特征进行归一化。数据预处理和加载数据。
2023-07-26 22:53:57
34
1
原创 深度学习week2
课程链接：link基本应用： 分类、检索、检测、分割人脸识别、人脸表情识别、图像生成、图像风格转化、自动驾驶······深度学习三部曲损失函数为什么使用卷积神经网络传统的神经网络进行全连接，对于图像等元素过多的应用场景，会导致权重矩阵参数过多进而导致过拟合过拟合： 神经网络过度拟合了训练数据的特征，导致泛化性能很差卷积神经网络的特点：1.局部关联：神经网络不与图像上的每一个像素点进行连接，而是与一个局部块（卷积核）连接2.参数共享：在卷积的过程中，卷积核的参数不变卷积神经网络的优点： 参数量大大减少
2023-07-20 17:10:48
34
原创 深度学习week1
一些特殊的张量创建方法pytorch中有两种不同的随机创建张量的方法rand和randn，这两种方法的区别是rand是按照均匀分布取数的，randn是按照正态分布取数的，以下为使用两种方法取随机数构成张量后绘制而成的图像。索引拼接转置螺旋数据分类构造螺旋形分布的数据构造得到的数据绘制在图像上如下图所示。下图是训练之后的分类效果，可以看出在仅使用线性层的情况下分类的线大体上是呈直线分布的，对于螺旋形分布的数据分类并不理想。下图是使用激活函数训练之后的分类效果，可以看出此时分类
2023-07-14 10:13:29
44
1
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人