- 博客(4)
- 收藏
- 关注
RSS订阅原创 【第4周】MobileNet_ShuffleNet
Reweight的操作，将Excitation的输出的权重看做是进过特征选择后的每个特征通道的重要性，然后通过乘法逐通道加权到先前的特征上，完成在通道维度上的对原始特征的重标定。Squeeze 操作，将每个二维的特征通道变成一个实数，这个实数某种程度上具有全局的感受野，并且输出的维度和输入的特征通道数相匹配，使得靠近输入的层也可以获得全局的感受野。3D卷积就是输入图像的3维，把卷积核改成三维，3D卷积与2D卷积中的多通道卷积相似，但是多了一个depth维度。精简Last Stage。
2023-08-04 11:00:00
80
1
原创 【第3周】ResNet+ResNeXt
为了使得网络能够学习残差部分，残差连接将输入x直接添加到网络的输出H(x)上，得到最终的输出： y = F(x) + x 通过这种方式，网络不再需要直接学习目标函数H(x)，而是学习目标函数与输入之间的残差。分组卷积将卷积核的参数量分配到子组中，如果子组太小，每个子组的参数量较少，而卷积核的每个参数又需要学习到不同子组的特征，这可能导致每个子组的特征表达能力不足，从而降低了准确率。IN是针对图像生成任务提出的一种标准化方法，将每个样本的所有像素点作为标准化的对象，对每个通道的数据进行归一化。
2023-07-27 11:00:00
145
1
原创 【第2周】卷积神经网络
1.dataloader 里面 shuffle 取不同值有什么区别？Shuffle为true表示随机读取样本，false为按顺序读取样本。一般来说训练集的shuffle为true，测试集的shuffle为false，这样是为了提高模型的泛化能力，防止模型陷入局部最优。Shuffle可以防止过拟合，并且使得模型学到更加正确的特征。2. transform 里，取了不同值，这个有什么区别？
2023-07-21 11:00:00
135
1
原创 【第1周】深度学习基础
SGD是通过计算当前权重和偏置对损失函数的梯度来更新模型参数，较为简单性，可能会陷入局部最小值，并且对于具有不同尺度的特征可能会更新不均匀。而在大规模数据集或复杂模型的情况下，Adam通常能够更好地适应不同参数的变化，并且以更稳定的方式进行优化。因此，选择更宽还是更深的神经网络应该根据具体的任务和数据情况来决定，我们关心的应该是最优化组合，过宽或者过深的都不是最佳网络。AlexNet的架构与LeNet相似，但使用了更多的卷积层和更多的参数来拟合大规模的ImageNet数据集。1、AlexNet有哪些特点？
2023-07-13 11:00:00
132
2
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人