Hyperparameters Tuning
效果好的几组参数可能效果差别不大
Model-based Hyperparameter Optimization
- 根据采样数据构建一个回归模型
- 寻找一个置信度大且准确率高的点,但同时需要进行一定程度的探索
很大程度决定于回归模型的好坏
可以将回归模型改为RNN,输出即为CNN的架构,再用CNN的accuracy作为回报,努力使得RNN设计出的架构能得到更大的回报
决定激活函数:使其输出应该使用哪个unary函数
决定learning rate: