DataWhale AI夏令营 AI极端降水预报 - Task 3 笔记 &结营感悟

DataWhale AI夏令营 AI极端降水预报 - Task 3 笔记 & 结营感悟

1. 赛题精读与数据理解

• 数据类型与物理含义：理解数据类型为float16，关注数据的值域和物理意义，即毫米每小时的降水量。
• 输入输出格式：明确输入数据的维度和格式，调整模型以确保输出数据满足要求。

2. Baseline分析与改进

• 原始Baseline问题：识别原始Baseline中的不足，如数据集加载异常处理和模型初始化方法。
• 改进措施：通过异常捕获、数据清洗、Xavier初始化等手段提升模型性能和稳定性。

3. 模型构建与训练策略

• ConvTTLSTM模型尝试：探索结合卷积神经网络和长短时记忆网络的模型，以期更好地捕捉时空特征。
• 加权损失函数：实施加权MSELoss，以增强模型对极端降水事件的预测能力。

4. 实验调整与反思

• 模型拟合问题：反思ConvTTLSTM模型和加权损失函数未能达到预期效果的原因，可能由于模型复杂度过高或参数调整不当。
• 简化与调整：考虑简化模型结构，优化参数设置，以提高模型的泛化能力和拟合优度。

5. 提升模型效果的策略

• 数据预处理：清洗数据集，剔除无效数据，关注极值对评分的影响。
• 模型选择：考虑时间序列特征，探索LSTM等模型对时间动态的捕捉能力。
• 损失函数定制：根据数据分布调整损失函数，增强模型对关键数据点的敏感性。
• 训练监控：利用验证集Loss监控模型训练过程，及时调整超参数。

6. 超参数调整与模型优化

• 学习率与优化器：实验不同的学习率和优化器组合，找到最优解。
• 训练周期：确定合适的训练周期，避免过拟合或欠拟合。
• 数据集划分：合理划分训练集和验证集，确保模型评估的准确性。

7. 结营感悟

经过Task3的深入学习和实践，我获得了许多宝贵的经验和见解：

• 数据的重要性：深入分析数据特性对于模型构建至关重要，数据预处理和清洗对模型性能有直接影响。
• 模型与损失函数的匹配：合适的模型结构和损失函数选择对提高预测精度起着决定性作用。
• 超参数调整的艺术：通过大量实验调整超参数，是一门需要细致入微和耐心的技艺。
• 持续学习与改进：在模型构建和优化的过程中，持续学习新知识，不断改进方法，是提升自身能力的关键。
• 反思与总结：每次实验后的反思和总结，是提高解决问题能力的重要途径。在本次学习中，尽管尝试了复杂的模型结构，但未能达到预期效果，这提醒了我在模型设计中需要更加注重简洁性和实用性。

通过本次学习，我对深度学习在气象预测中的应用有了更深入的理解，也认识到了理论与实践相结合的重要性。未来，我将继续探索更高效、更准确的模型构建方法，以解决实际问题。