优化模块_hyperparameter_hunter 超参数优化模块实践

在机器学习、深度学习的很多任务中必不可少我们要接触到模型参数调优的工作，这里有很多参数调优的方法，比如最常用最好理解的网格调参，简单带来的就是时间消耗和计算量的增加，今天给大家推荐一款非常不错的超参数优化模块hyperparameter_hunter，我也是最近才接触到的这款神器，实践使用了一下感觉还是很不错的，值得推荐学习一下，这里给出来一些我的学习理解和实践demo。

相应的介绍和说明我都放在代码里面了，可以有选择性地去学习使用，下面是具体的实现内容：

#!usr/bin/env python#encoding:utf-8  '''__Author__:沂水寒城功能： hyperparameter_hunter 超参数优化模块实践官方地址：https://github.com/HunterMcGushion/hyperparameter_hunter文档地址：https://hyperparameter-hunter.readthedocs.io如何使用HyperparameterHunter：不要将HyperparameterHunter视为另一个优化库，只有在它进行超参数优化时才会显示出来。当然，它会进行优化，但最好将HyperparameterHunter视为个人机器学习工具箱/助手。使用HyperparameterHunter越多，结果就越好。如果你只是用它来进行优化，当然，它会做你想要的，但这就错过了HyperparameterHunter。如果一直在项目的整个过程中使用它进行实验和优化，那么当决定进行超参数优化时，HyperparameterHunter已经记录了已经完成的所有操作，而且当HyperparameterHunter做了非凡的事情时。它不会像其他库一样从头开始优化。它会从已经完成的所有实验和之前的优化轮次开始。个人理解：该模块的一大特点是每一次的实验所产生的数据结果、所使用的的脚本等都被存储下来，实验结果中含有匹配的键，基于该键值可以从结果文件中抽取所需的结果数据hyperparameter_hunter输出文件结构:实验会将文件添加到每个HyperparameterHunterAssets / Experiments子目录中，该子目录由experiment_id命名每个实验还会向HyperparameterHunterAssets / Leaderboards / GlobalLeaderboard.csv添加一个条目自定义通过Environment的file_blacklist和do_full_save kwargs创建的文件HyperparameterHunterAssets| Heartbeat.log|└───Experiments| || └───Descriptions| | | .json| || └───Predictions| | | .csv| || └───Heartbeats| | | .log| || └───ScriptBackups| | .py|└───Leaderboards| | GlobalLeaderboard.csv| | .csv|└───TestedKeys| | .json|└───KeyAttributeLookup | '''  from hyperparameter_hunter import Environm