项目 | 内容 |
---|---|
课程内容 | 2019人工智能实战 |
作业要求 | 第六次作业 |
课程目标 | 将模型准确度调整至>97% 并给出最终loss曲线 |
本次作业的帮助 | 了解各项参数对训练准确性的影响程度 |
1.调节epoch
No | learning_rate | hidden1 | hidden2 | epoch | batch_size | correct_rate |
---|---|---|---|---|---|---|
1 | 0.2 | 32 | 16 | 2 | 10 | 0.9567 |
2 | 0.2 | 32 | 16 | 5 | 10 | 0.9652 |
3 | 0.2 | 32 | 16 | 10 | 10 | 0.9647 |
4 | 0.2 | 32 | 16 | 20 | 10 | 0.9648 |
2.调节神经网络结构
No | learning_rate | hidden1 | hidden2 | epoch | batch_size | correct_rate |
---|---|---|---|---|---|---|
1 | 0.1 | 64 | 32 | 10 | 10 | 0.9748 |
2 | 0.1 | 128 | 64 | 10 | 10 | 0.9784 |
3.调节batch size
No. | learning rate | hidden1 | hidden2 | epoch | batch size | correct rate |
---|---|---|---|---|---|---|
1 | 0.1 | 128 | 64 | 5 | 5 | 0.9762 |
2 | 0.1 | 128 | 64 | 5 | 10 | 0.9732 |
3 | 0.1 | 128 | 64 | 5 | 20 | 0.9639 |
4 | 0.1 | 128 | 64 | 5 | 40 | 0.9568 |
4.调节学习率
No. | learning rate | hidden1 | hidden2 | epoch | batch size | correct rate |
---|---|---|---|---|---|---|
1 | 0.1 | 32 | 16 | 5 | 10 | 0.9647 |
2 | 0.2 | 32 | 16 | 5 | 10 | 0.9632 |
3 | 0.4 | 32 | 16 | 5 | 10 | 0.9499 |
4 | 0.8 | 32 | 16 | 5 | 10 | 0.9464 |
5.结论
综上所述参数设置为
learning_rate =0.1
n_hidden1 =128
n_hidden2 =64
m_epoch =10
batch_size =10
时出现最高正确率0.9784
6.LOSS曲线