smac源码笔记

最新推荐文章于 2021-01-11 20:58:17 发布
最新推荐文章于 2021-01-11 20:58:17 发布
阅读量406 收藏
点赞数
分类专栏： automl
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/TQCAI666/article/details/104241847
版权
本文是关于SMAC（Sequential Model-Based Optimization）的源码笔记，重点解析了SMBO的运行过程。首先介绍了incumbent代表最优解的概念，接着详细说明了在`smac.initial_design.initial_design.py`中如何选择初始配置并设定首位配置为incumbent。然后，阐述了挑战者（challengers）如何与incumbent进行比较，并指出在`smac.intensification.intensification.py`中，由于特定条件，可能导致只有一个最优challenger真正运行。最后提出了将循环改进为MR的待办事项。
摘要由CSDN通过智能技术生成

smac.optimizer.smbo.SMBO#run

self.start()

smac/optimizer/smbo.py:156

self.incumbent = self.initial_design.run()

incumbent是现任者，可以理解为最优解。
进入initial_design.py
smac/initial_design/initial_design.py:116

configs = self.select_configurations()

len(configs)=12

最低0.47元/天 解锁文章
数学工具构造器
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
SMAC源码分析
using namespace 数学工具构造器;
05-19 993
这次依然用官方的Example：examples/SMAC4HPO_svm.py 先看初始采样 smac.initial_design.sobol_design.SobolDesign#_select_configurations sobol = sobol_seq.i4_sobol_generate(len(params) - constants, self.init_budget) 看看算出来这个东西是什么 sobol Out[6]: array([[0.5 , 0.5 , 0.5 ,
smac源码分析(1):初探smac
using namespace 数学工具构造器;
02-07 3664
smac的应用：auto-sklearn SMAC(Sequential Model-based Algorithm Configuration)，即基于序列模型的算法配置，被广泛应用在各个自动机器学习框架上，如微软的nni（https://github.com/microsoft/nni），auto-sklearn等。其中auto-sklearn的超参搜索模块完全由smac算法构建。要想理解au...
SMAC协议源码
03-13
无线传感器网络SMAC协议
smac 二次开发
using namespace 数学工具构造器;
02-13 326
smac/facade/smac_ac_facade.py:411 原代码： # initial design if initial_design is not None and initial_configurations is not None: raise ValueError( "Either use ...
smac.rar_smac
09-22
标题中的"smac.rar_smac"表明这是一个关于SMAC（Sequential Model-based Algorithm Configuration）的压缩文件，其中可能包含了SMAC的源代码和其他相关文档。SMAC是一个用于算法配置的工具，它基于模型序列化的方法...
smac.zip_smac
09-20
这个名为"smac.zip_smac"的压缩包显然包含了与NS2中的SMAC（Simple Media Access Control）协议相关的源代码。SMAC是一种专门为无线传感器网络设计的MAC层协议，它解决了传统IEEE 802.11 MAC协议在低功耗和高可靠性...
SMAC.rar_smac
09-19
标题中的"SMAC.rar_smac"表明这是一个名为"SMAC"的压缩文件，后缀".rar"指示它是由RAR格式封装的，这种格式常用于数据压缩和归档。"smac"也是文件的一个标签，可能代表该软件或程序的缩写。描述中提到的内容是关于...
python-smac-randomforest自动化调参
qq_35358021的博客
06-18 657
import logging import os import inspect import numpy as np from sklearn.metrics import make_scorer from sklearn.model_selection import cross_val_score from sklearn.ensemble import RandomForestRegresso...
python-smac-自动化优化函数实例
qq_35358021的博客
06-18 766
import logging from smac.facade.func_facade import fmin_smac def rosenbrock_2d(x): """ The 2 dimensional Rosenbrock function as a toy model The Rosenbrock function is well know in the optim...
采用SMAC（社交、移动、分析、云计算）规划客户的5种最佳方法
寄云科技
11-17 2481
营销人员把SMAC看作商业智能系统，能增强企业为客户提供更好体验并带来丰厚商业利润能力。使用SMAC的大多商务企业采用的营销方法就是推动客户服务的改进，提供有意义购物体验。以下能帮中小型企业把SMAC用于营销结构时，制定以客户为中心的方法。
理解smac的intensify
using namespace 数学工具构造器;
03-03 379
进入对应区域 smac.optimizer.smbo.SMBO#run self.aggregate_func Out[9]: <function smac.optimizer.objective.average_cost(config, run_history, instance_seed_pairs=None)> 找到这个函数，只有一句话： return np.mean(_c...
smac论文阅读
using namespace 数学工具构造器;
03-03 356
One promising approach constructs explicit regression models to describe the dependence of target algorithm performance on parameter settings however, this approach has so far been limited to the opti...
autofeat 的特征筛选原理
using namespace 数学工具构造器;
08-12 1512
主要代码在autofeat.autofeat.AutoFeatModel#fit_transform， 在做完特征生成后， 调用 autofeat.featsel.select_features函数做特征筛选。 在select_features函数， 会做featsel_runs次特征筛选 selected_columns = [] for i in range(featsel_runs): selected_columns.e
调研AutoGluon数据处理与Tabular-NN
using namespace 数学工具构造器;
07-27 1280
hyperparams = {'NN': {'num_epochs': 10, 'activation': 'relu', 'dropout_prob': ag.Real(0.0,0.5)}, 'GBM': {'num_boost_round': 1000, 'learning_rate': ag.Real(0.01,0.1,log=True)} } 进入autogluon.task.tabular_prediction.tabular_prediction.Tabular
UltraOpt：比HyperOpt更强的超参优化库
using namespace 数学工具构造器;
01-11 1253
这个月，笔者复盘了2020年做的一些AutoML项目，并在多个优秀的开源项目的基础上，博采众长，写了一个超参优化库：UltraOpt。这个库包含一个笔者自研的贝叶斯优化算法：ETPE，其在基准测试中比HyperOpt的TPE算法表现更为出色。UltraOpt对分布式计算有更强的适应性，支持MapReduce和异步通信两种并行策略，并且可以扩展到各种计算环境中。 除此之外，UltraOpt对与新手也特别友好，笔者特地花了3周的时间写中文文档，就是为了让小白也能0基础看懂AutoML（自动机器学习）是在做什么。
随便看看AutoGluon-Tabular
using namespace 数学工具构造器;
07-12 1107
论文提到预先准备一些模型，并且按一个手设的priority进行训练 # Higher values indicate higher priority, priority dictates the order models are trained for a given level. DEFAULT_MODEL_PRIORITY = dict( RF=100, XT=90, KNN=80, GBM=70, CAT=60, NN=50, LR=40,
自研贝叶斯优化算法遇到的坑
using namespace 数学工具构造器;
07-05 1076
自研贝叶斯优化算法，如何判断算法能拟合？我目前是在一个tiny的数据集上跑一下，看算法能否收敛到正确的的局部最小值。这里要有两个关键词： 收敛。算法是需要收敛的。黑盒优化的本质就是增加在优势样本附近的采样率。如果算法如同随机搜索不收敛，那么是有问题的。 正确。收敛点是正确的，如果收敛到错误的点，那还不如随机搜索。 文章目录自研SMAC代理模型获益函数遇到过的坑TPE遇到的坑 自研SMAC 代理模型 SMAC的本质是用随机森林作为代理模型。这个代理模型调包就好了（前提是你熟读开源代码千百遍，知道调什么）
navigation2/smac_planner_lattie源码解析
最新发布
09-06
navigation2/smac_planner_lattice是ROS2的一个插件，用于路径规划和导航。下面是对其源码的简要解析。 首先介绍一下源码的目录结构。smac_planner_lattice包含了几个主要的文件夹和文件。config文件夹包含了一些...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值