- 过程推导 - 了解BP原理
- 数值计算 - 手动计算,掌握细节
- 代码实现 - numpy手推 + pytorch自动
过程推导、数值计算,以下三种形式可任选其一:
- 直接在博客用编辑器写
- 在电子设备手写,截图
- 在纸上写,拍照发图
代码实现:
- 对比【numpy】和【pytorch】程序,总结并陈述。
- 激活函数Sigmoid用PyTorch自带函数torch.sigmoid(),观察、总结并陈述。
- 激活函数Sigmoid改变为Relu,观察、总结并陈述。
- 损失函数MSE用PyTorch自带函数 t.nn.MSELoss()替代,观察、总结并陈述。
- 损失函数MSE改变为交叉熵,观察、总结并陈述。
- 改变步长,训练次数,观察、总结并陈述。
- 权值w1-w8初始值换为随机数,对比“指定权值”的结果,观察、总结并陈述。
- 权值w1-w8初始值换为0,观察、总结并陈述。
- 全面总结反向传播原理和编码实现,认真写心得体会。
题目为开放式题目,除了要求的内容,鼓励探索更多问题,深入了解FNN、BP,不留疑点
REF: