科大讯飞农民身份识别挑战赛

#科大讯飞农民身份识别挑战赛
###以下记录了一些初学注意点
##数据模块
训练集和（验证集）测试集数据增强的方式不一样？
训练集和（验证集测试集）数据增强的方式通常不一样，是因为它们在训练过程中扮演着不同的角色和目标。

目的不同：
训练集的数据增强旨在增加训练样本的多样性，使得模型能够更好地学习数据的不同变化和模式，从而提高泛化能力。而验证集的主要目的是评估模型在未见过的数据上的性能，因此不需要增强，它应该保持原始的数据分布和特征。
测试集应该是一个独立的、没有参与模型训练的数据集，它应该保持原始的数据分布和特征，以确保评估模型的泛化能力。

防止过拟合：
（验证集）测试集应该是一个独立的、没有参与模型训练的数据集，用于评估模型的泛化能力。

模型评估的可信度：
如果验证集和训练集采用相同的数据增强方式，模型在验证集上的性能可能会过于乐观，因为模型已经在类似的样本上进行了训练。这将导致模型在实际应用中表现较差。

##模型结构
#为什么models.resnet18全连接输入512，models.resnet50全连接输入2048？更换模型后，输出的特征图不同

实际上，models.resnet18 和 models.resnet50 在全连接层的输入大小并不是固定的，而是取决于输入图像的大小和模型的具体配置。

在 ResNet 模型中，全连接层的输入大小与特征图的维度有关。ResNet 使用卷积层进行特征提取，然后将提取的特征图通过全局平均池化层（global average pooling）或全局最大池化层（global max pooling）来降维得到一个固定大小的向量。最后，这个向量会传递给全连接层进行分类。

对于 models.resnet18 和 models.resnet50，两者在全连接层之前的特征图的维度是不同的。ResNet-18 的特征图维度是 512，而 ResNet-50 的特征图维度是 2048。

具体来说，ResNet-18 使用了 4 个残差块（每个块包含两个卷积层）和一个平均池化层，其中的最后一个残差块的特征图大小是 512x1x1，因此全连接层的输入大小是 512。

而 ResNet-50 使用了 4 个残差阶段，每个阶段包含了不同数量的残差块。最后一个残差阶段的特征图大小是 2048x1x1，因此全连接层的输入大小是 2048。

##可在resnet18模型之后加入几个全连接层，而不是直接变成25大小的张量，如图所示：

##resnet50的实验结果

##resnet18的实验结果

#优化器尝试
增加了权重衰减（weight decay）：通常权重衰减系数可以设置为 0.01 或更小。权重衰减的作用是防止过拟合，但过大的权重衰减可能会导致欠拟合。因此，需要根据具体情况进行调整，可以通过验证集上的表现来选择合适的权重衰减系数。

#迭代过程----基本超参数调整
迭代训练的代数变为epoch=50

##batchsize由原来的30->20：
Batch size（批大小）是指在训练过程中一次性输入到模型中的样本数量。Batch size 的选择是深度学习中一个重要的超参数，它会影响模型的训练速度和性能。虽然 Batch size 可以设定不同的值，但是随意设置并不总是好的选择，需要根据任务、模型和硬件资源进行合理调整。

以下是一些关于 Batch size 的考虑和指导原则：

大 Batch size：较大的 Batch size 可以充分利用硬件并行性，提高 GPU 的利用率，从而加快训练速度。通常在大规模训练数据集和高性能 GPU 环境下使用较大的 Batch size。但是，较大的 Batch size 可能会占用较多的显存，因此需要确保 GPU 显存足够大。

小 Batch size：较小的 Batch size 可以减少显存占用，适用于显存较小的设备，如低端 GPU 或移动设备。此外，较小的 Batch size 在一定程度上还可以增加模型的泛化能力，因为它可以使得模型在训练过程中更多地更新参数，从而减少过拟合的风险。

Batch size 和学习率：较大的 Batch size 可能会导致梯度下降的方向不够准确，从而需要调整较大的学习率。因此，在选择 Batch size 的同时，通常也需要调整学习率以保持模型的稳定性。

总体来说，选择合适的 Batch size 需要综合考虑硬件资源、模型复杂度、数据集大小和训练目标。在实际应用中，可以通过尝试不同的 Batch size，并监控模型的训练速度和性能表现，从而找到最佳的 Batch size。
效果看起还行