【Datawhale AI 夏令营】赛题解析与新baseline解读

Part 1: 精读赛题——确定隐含条件和提交数据格式

1. 数据类型与值域
- 数据类型: 输入feature数据为浮点型(float16)。
- 值域: 数据最小值约-0.3，最大值可达10~50或更大，多数数据点小于1（甚至达到1e-4）。

2. 降水量的物理含义
- ERA5数据表示: 一小时内的平均降水量（毫米每小时）。

3. 数据输入输出格式
- 输入格式: (1, 72, 24, H, W)，代表(batch, 时间， 特征或者通道， 纵向网格数， 横向网格数)。
- 输出格式: (1, 72, H, W)，网络设计时需注意此格式。

4. 数据清洗
- 使用xarray包读取.nc格式数据，改进后的baseline会捕获某些时间戳在gt数据中找不到的异常，并处理这种情况。

5. 得分计算方法
- 临界成功指数（CSI）: \( \text{CSI} = \frac{\text{hits}}{\text{hits} + \text{false_alarms} + \text{misses}} \)，其中24小时累积降水量50毫米为阈值。

实验方向建议
1. 使用nn.ReLU()激活函数确保输出在合理范围。
2. 训练时避免0附近值对模型的负面影响。
3. 提高模型对较大降水量值（10左右到50）预测的准确性。
4. 数据集清洗，挑选有意义的子集或处理缺失数据。

Part 2: 速通新baseline——与原始baseline对比

1. 数据集加载
- 捕获feature时间戳在gt数据中缺失的异常，发现缺失数据部分。

2. 定义验证集dataloader
- 方便每个epoch结束时查看模型在验证集的表现。

3. 模型初始化
- 新增Xavier初始化以改善模型收敛速度。

4. 查看验证集loss
- 帮助判断模型拟合程度。

5. 超参数调整
- 调整学习率、权重衰减、训练周期等。

Part 3: 发散思路——上分技巧

1. 数据角度
- 极值数据对评分关键，应增加其在模型中的贡献。
- 增加训练数据量以提升模型拟合能力。

2. 模型角度
- 尝试LSTM等模型来提取时间序列特征。

3. 损失函数
- 对高值敏感，低值不敏感，使用加权MSELoss。

4. 训练方式
- 划分验证集后监控验证集loss以调整超参数。

5. 超参数调整
- 通过大量实验找到合适的超参数设置。

这份笔记总结了上文的关键点，提供了有关数据处理、模型训练、验证和超参数调整的建议，以及如何通过这些步骤来提高模型的预测性能。