【笔记】ray.tune ：超参最优化（1）

最新推荐文章于 2023-11-23 14:16:07 发布
最新推荐文章于 2023-11-23 14:16:07 发布
阅读量683 收藏
点赞数
分类专栏： 小菜鸡加油 文章标签： python 算法
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/nyist_yangguang/article/details/120781093
版权
该博客展示了如何利用Ray Tune库进行超参数优化。通过grid_search和choice方法，作者配置了训练函数，分别对alpha和beta参数进行搜索。在训练过程中，观察到不同参数组合对mean_loss的影响，并在训练结束后，得到了最佳的配置参数。
摘要由CSDN通过智能技术生成

注：

其中        "beta": tune.choice([1, 2, 3])，choice（）返回的是实参序列（不一定是列表）中随机下标的值（概率均等）。

from ray import tune


def objective(step, alpha, beta):
    print(step,alpha,beta)
    print((0.1 + alpha * step / 100)**(-1) + beta * 0.1)
    print("*******************")
    return (0.1 + alpha * step / 100)**(-1) + beta * 0.1


def training_function(config):
    # Hyperparameters
    alpha, beta = config["alpha"], config["beta"]
    print(beta)
    # input()
    for step in range(10):
        # Iterative training function - can be any arbitrary training procedure.
        intermediate_score = objective(step, alpha, beta)
        # Feed the score back back to Tune.
        tune.report(mean_loss=intermediate_score)


analysis = tune.run(
    training_function,
    config={
        "alpha": tune.grid_search([0.001, 0.01, 0.1]),
        "beta": tune.choice([1, 2, 3])
    })

print("Best config: ", analysis.get_best_config(
    metric="mean_loss", mode="min"))


2021-10-15 12:30:14,862	WARNING function_runner.py:559 -- Function checkpointing is disabled. This may result in unexpected behavior when using checkpointing features or certain schedulers. To enable, set the train function arguments to be `func(config, checkpoint_dir=None)`.
2021-10-15 12:30:15,397	WARNING tune.py:562 -- Tune detects GPUs, but no trials are using GPUs. To enable trials to use GPUs, set tune.run(resources_per_trial={'gpu': 1}...) which allows Tune to expose 1 GPU to each trial. You can also override `Trainable.default_resource_request` if using the Trainable API.
== Status ==
Memory usage on this node: 7.2/15.4 GiB
Using FIFO scheduling algorithm.
Resources requested: 1.0/16 CPUs, 0/1 GPUs, 0.0/5.88 GiB heap, 0.0/2.94 GiB objects (0.0/1.0 accelerator_type:RTX)
Result logdir: /home/wangbin/ray_results/training_function_2021-10-15_12-30-14
Number of trials: 3/3 (2 PENDING, 1 RUNNING)
+-------------------------------+----------+-------+---------+--------+
| Trial name                    | status   | loc   |   alpha |   beta |
|-------------------------------+----------+-------+---------+--------|
| training_function_97d87_00000 | RUNNING  |       |   0.001 |      1 |
| training_function_97d87_00001 | PENDING  |       |   0.01  |      1 |
| training_function_97d87_00002 | PENDING  |       |   0.1   |      3 |
+-------------------------------+----------+-------+---------+--------+


Result for training_function_97d87_00001:
  date: 2021-10-15_12-30-15
  done: false
  experiment_id: 433534e7022d41f2a8d81defb1ea9639
  hostname: wangbin-ZHENGJIUZHE-REN9000K-34IMZ
  iterations_since_restore: 1
  mean_loss: 10.1
  neg_mean_loss: -10.1
  node_ip: 10.16.155.112
  pid: 17550
  time_since_restore: 0.00013875961303710938
  time_this_iter_s: 0.00013875961303710938
  time_total_s: 0.00013875961303710938
  timestamp: 1634272215
  timesteps_since_restore: 0
  training_iteration: 1
  trial_id: 97d87_00001
  
Result for training_function_97d87_00000:
  date: 2021-10-15_12-30-15
  done: false
  experiment_id: a28d480c392a4859a1bd879f76156f51
  hostname: wangbin-ZHENGJIUZHE-REN9000K-34IMZ
  iterations_since_restore: 1
  mean_loss: 10.1
  neg_mean_loss: -10.1
  node_ip: 10.16.155.112
  pid: 17551
  time_since_restore: 0.0001780986785888672
  time_this_iter_s: 0.0001780986785888672
  time_total_s: 0.0001780986785888672
  timestamp: 1634272215
  timesteps_since_restore: 0
  training_iteration: 1
  trial_id: 97d87_00000
  
Result for training_function_97d87_00002:
  date: 2021-10-15_12-30-15
  done: false
  experiment_id: 4495f20a45ec41e8bccb3bc978f7d775
  hostname: wangbin-ZHENGJIUZHE-REN9000K-34IMZ
  iterations_since_restore: 1
  mean_loss: 10.3
  neg_mean_loss: -10.3
  node_ip: 10.16.155.112
  pid: 17508
  time_since_restore: 0.0001246929168701172
  time_this_iter_s: 0.0001246929168701172
  time_total_s: 0.0001246929168701172
  timestamp: 1634272215
  timesteps_since_restore: 0
  training_iteration: 1
  trial_id: 97d87_00002
  
Result for training_function_97d87_00000:
  date: 2021-10-15_12-30-15
  done: true
  experiment_id: a28d480c392a4859a1bd879f76156f51
  experiment_tag: 0_alpha=0.001,beta=1
  hostname: wangbin-ZHENGJIUZHE-REN9000K-34IMZ
  iterations_since_restore: 10
  mean_loss: 10.091008092716553
  neg_mean_loss: -10.091008092716553
  node_ip: 10.16.155.112
  pid: 17551
  time_since_restore: 0.026308536529541016
  time_this_iter_s: 0.005055665969848633
  time_total_s: 0.026308536529541016
  timestamp: 1634272215
  timesteps_since_restore: 0
  training_iteration: 10
  trial_id: 97d87_00000
  
Result for training_function_97d87_00001:
  date: 2021-10-15_12-30-15
  done: true
  experiment_id: 433534e7022d41f2a8d81defb1ea9639
  experiment_tag: 1_alpha=0.01,beta=1
  hostname: wangbin-ZHENGJIUZHE-REN9000K-34IMZ
  iterations_since_restore: 10
  mean_loss: 10.010802775024777
  neg_mean_loss: -10.010802775024777
  node_ip: 10.16.155.112
  pid: 17550
  time_since_restore: 0.022693395614624023
  time_this_iter_s: 0.0023262500762939453
  time_total_s: 0.022693395614624023
  timestamp: 1634272215
  timesteps_since_restore: 0
  training_iteration: 10
  trial_id: 97d87_00001
  
Result for training_function_97d87_00002:
  date: 2021-10-15_12-30-15
  done: true
  experiment_id: 4495f20a45ec41e8bccb3bc978f7d775
  experiment_tag: 2_alpha=0.1,beta=3
  hostname: wangbin-ZHENGJIUZHE-REN9000K-34IMZ
  iterations_since_restore: 10
  mean_loss: 9.474311926605504
  neg_mean_loss: -9.474311926605504
  node_ip: 10.16.155.112
  pid: 17508
  time_since_restore: 0.022800445556640625
  time_this_iter_s: 0.0011701583862304688
  time_total_s: 0.022800445556640625
  timestamp: 1634272215
  timesteps_since_restore: 0
  training_iteration: 10
  trial_id: 97d87_00002
  
== Status ==
Memory usage on this node: 7.1/15.4 GiB
Using FIFO scheduling algorithm.
Resources requested: 0/16 CPUs, 0/1 GPUs, 0.0/5.88 GiB heap, 0.0/2.94 GiB objects (0.0/1.0 accelerator_type:RTX)
Result logdir: /home/wangbin/ray_results/training_function_2021-10-15_12-30-14
Number of trials: 3/3 (3 TERMINATED)
+-------------------------------+------------+-------+---------+--------+----------+--------+------------------+-----------------+
| Trial name                    | status     | loc   |   alpha |   beta |     loss |   iter |   total time (s) |   neg_mean_loss |
|-------------------------------+------------+-------+---------+--------+----------+--------+------------------+-----------------|
| training_function_97d87_00000 | TERMINATED |       |   0.001 |      1 | 10.091   |     10 |        0.0263085 |       -10.091   |
| training_function_97d87_00001 | TERMINATED |       |   0.01  |      1 | 10.0108  |     10 |        0.0226934 |       -10.0108  |
| training_function_97d87_00002 | TERMINATED |       |   0.1   |      3 |  9.47431 |     10 |        0.0228004 |        -9.47431 |
+-------------------------------+------------+-------+---------+--------+----------+--------+------------------+-----------------+


(ImplicitFunc pid=17550) 1
(ImplicitFunc pid=17550) 0 0.01 1
(ImplicitFunc pid=17550) 10.1
(ImplicitFunc pid=17550) *******************
(ImplicitFunc pid=17550) 1 0.01 1
(ImplicitFunc pid=17550) 10.090009990009989
(ImplicitFunc pid=17550) *******************
(ImplicitFunc pid=17550) 2 0.01 1
(ImplicitFunc pid=17550) 10.08003992015968
(ImplicitFunc pid=17550) *******************
(ImplicitFunc pid=17550) 3 0.01 1
(ImplicitFunc pid=17550) 10.070089730807577
(ImplicitFunc pid=17550) *******************
(ImplicitFunc pid=17550) 4 0.01 1
(ImplicitFunc pid=17550) 10.0601593625498
(ImplicitFunc pid=17550) *******************
(ImplicitFunc pid=17550) 5 0.01 1
(ImplicitFunc pid=17550) 10.050248756218904
(ImplicitFunc pid=17550) *******************
(ImplicitFunc pid=17550) 6 0.01 1
(ImplicitFunc pid=17550) 10.040357852882703
(ImplicitFunc pid=17550) *******************
(ImplicitFunc pid=17550) 7 0.01 1
(ImplicitFunc pid=17550) 10.030486593843097
(ImplicitFunc pid=17550) *******************
(ImplicitFunc pid=17550) 8 0.01 1
(ImplicitFunc pid=17550) 10.02063492063492
(ImplicitFunc pid=17550) *******************
(ImplicitFunc pid=17550) 9 0.01 1
(ImplicitFunc pid=17550) 10.010802775024777
(ImplicitFunc pid=17550) *******************
(ImplicitFunc pid=17551) 1
(ImplicitFunc pid=17551) 0 0.001 1
(ImplicitFunc pid=17551) 10.1
(ImplicitFunc pid=17551) *******************
(ImplicitFunc pid=17551) 1 0.001 1
(ImplicitFunc pid=17551) 10.09900009999
(ImplicitFunc pid=17551) *******************
(ImplicitFunc pid=17551) 2 0.001 1
(ImplicitFunc pid=17551) 10.098000399920014
(ImplicitFunc pid=17551) *******************
(ImplicitFunc pid=17551) 3 0.001 1
(ImplicitFunc pid=17551) 10.09700089973008
(ImplicitFunc pid=17551) *******************
(ImplicitFunc pid=17551) 4 0.001 1
(ImplicitFunc pid=17551) 10.096001599360255
(ImplicitFunc pid=17551) *******************
(ImplicitFunc pid=17551) 5 0.001 1
(ImplicitFunc pid=17551) 10.095002498750624
(ImplicitFunc pid=17551) *******************
(ImplicitFunc pid=17551) 6 0.001 1
(ImplicitFunc pid=17551) 10.094003597841294
(ImplicitFunc pid=17551) *******************
(ImplicitFunc pid=17551) 7 0.001 1
(ImplicitFunc pid=17551) 10.093004896572399
(ImplicitFunc pid=17551) *******************
(ImplicitFunc pid=17551) 8 0.001 1
(ImplicitFunc pid=17551) 10.092006394884093
(ImplicitFunc pid=17551) *******************
(ImplicitFunc pid=17551) 9 0.001 1
(ImplicitFunc pid=17551) 10.091008092716553
(ImplicitFunc pid=17551) *******************
(ImplicitFunc pid=17508) 3
(ImplicitFunc pid=17508) 0 0.1 3
(ImplicitFunc pid=17508) 10.3
(ImplicitFunc pid=17508) *******************
(ImplicitFunc pid=17508) 1 0.1 3
(ImplicitFunc pid=17508) 10.200990099009902
(ImplicitFunc pid=17508) *******************
(ImplicitFunc pid=17508) 2 0.1 3
(ImplicitFunc pid=17508) 10.10392156862745
(ImplicitFunc pid=17508) *******************
(ImplicitFunc pid=17508) 3 0.1 3
(ImplicitFunc pid=17508) 10.00873786407767
(ImplicitFunc pid=17508) *******************
(ImplicitFunc pid=17508) 4 0.1 3
(ImplicitFunc pid=17508) 9.915384615384616
(ImplicitFunc pid=17508) *******************
(ImplicitFunc pid=17508) 5 0.1 3
(ImplicitFunc pid=17508) 9.823809523809524
(ImplicitFunc pid=17508) *******************
(ImplicitFunc pid=17508) 6 0.1 3
(ImplicitFunc pid=17508) 9.733962264150943
(ImplicitFunc pid=17508) *******************
(ImplicitFunc pid=17508) 7 0.1 3
(ImplicitFunc pid=17508) 9.645794392523364
(ImplicitFunc pid=17508) *******************
(ImplicitFunc pid=17508) 8 0.1 3
(ImplicitFunc pid=17508) 9.559259259259258
(ImplicitFunc pid=17508) *******************
(ImplicitFunc pid=17508) 9 0.1 3
(ImplicitFunc pid=17508) 9.474311926605504
(ImplicitFunc pid=17508) *******************
2021-10-15 12:30:16,068	INFO tune.py:617 -- Total run time: 1.21 seconds (0.56 seconds for the tuning loop).
Best config:  {'alpha': 0.1, 'beta': 3}

Process finished with exit code 0

程序猿的探索之路
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
专栏目录
Ray----Tune(1):可伸缩的并行的超参搜索
weixin_43255962的博客
04-03 1229
本篇仅初步简单介绍Ray中的重要训练框架Tune-----一个可伸缩的超参搜索框架，主要应用在深度学习和深度强化学习中。可以在GitHub上找到Tune代码，要开始使用Tune，需要一定的储备知识，深度学习，Keras库，tensorflow等强化学习的知识。 特点 支持任何深度学习框架，包括PyTorch、TensorFlow和Keras。 选择可伸缩的超参数和模型搜索技术，如Populati...
R语言机器学习mlr3：超参数调优
医学和生信笔记的博客
03-13 4396
目录模型调优调整超参数方法一：通过`tuninginstancesinglecrite`和`tuner`训练模型方法二：通过`autotuner`训练模型超参数设定的方法参数依赖 模型调优 当你对你的模型表现不满意时，你可能希望调高你的模型表现，可通过超参数调整或者尝试一个更加适合你的模型，本篇将介绍这些操作。 本章主要包括3个部分的内容： 超参数调整 机器学习模型都有默认的超参数，但是这些超参数不能根据数据自动调整，往往不能得到更好的性能表现。但是手动调整往往也不能获得最佳的表现，mlr3包含自动调参的策
ray.tune文档总结
weixin_52629177的博客
09-01 712
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录前言一、pandas是什么？二、使用步骤1.引入库2.读入数据总结 前言 提示：这里可以添加本文要记录的大概内容： 例如：随着人工智能的不断发展，机器学习这门技术也越来越重要，很多人都开启了学习机器学习，本文就介绍了机器学习的基础内容。 提示：以下是本篇文章正文内容，下面案例可供参考 一、pandas是什么？ 二、使用步骤 1.引入库 代码如下（示例）： import numpy as np import pandas as p
Ray Tune模型调参：以一个简单的二分类模型为例
tszupup的博客
01-07 1700
以Titanic乘客生存预测任务为例，进一步熟悉Ray Tune调参工具。 titanic数据集的目标是根据乘客信息预测他们在Titanic号撞击冰山沉没后能否生存。 本示例的基础代码参考了下面两篇文章： 1-1,结构化数据建模流程范例（一个不错的PyTorch教程） How to use Tune with PyTorch 也可以看一下上一篇文章：PyTorch + Ray Tune 调参 教程中的原始代码如下： import numpy as np import panda
Ray----Tune(5):Tune包中的类和函数参考
weixin_43255962的博客
04-20 4759
ray.tune ray.tune.grid_search(values) 用于指定值上的网格搜索的快捷方法。 参数： values –参数将被网格化的迭代器。 ray.tune.register_env(name, env_creator) 注册一个自定义环境，以便与RLlib一起使用。 参数： name (str) –注册的名称。 env_cre...
net.tune:go 1.3 的可调 TCP 侦听器
06-22
listener, err := tune.TuneAndListen("tcp", "0.0.0.0:80", tune.ReusePort) 支持的套接字选项 SO_REUSEPORT : ReusePort TCP_FASTOPEN : FastOpen 支持的平台 达尔文 linux 谢谢 基于 steview 的 。
spaceray:HyperSpace与Ray Tune超参数搜索功能的集成
04-13
HyperSpace与Ray Tune超参数搜索功能的集成。 使用要求： 目标函数的定义，该函数采用config参数，这是Ray Tune提供的字典。 一个argparse Namespace对象，它包含：args.trials（试验次数），args.out（中间结果...
monad-tune:用于自动调整程序优化的 monad
06-25
Monad-Tune：自动程序优化的Monad工具 Monad-Tune 是一个专为自动调整程序优化而设计的库，它基于函数式编程语言Haskell构建。在Haskell中，Monad是一种强大的抽象概念，它允许程序员组合计算步骤，同时保持状态、...
Ray_Tune
03-14
总的来说，Ray Tune是一个强大的工具，旨在简化机器学习和深度学习的调参过程，通过自动化和分布式优化，提高了模型开发的效率和质量。无论你是初学者还是经验丰富的开发者，Ray Tune都能成为你工具箱中不可或缺的一...
nnet.js:JavaScript中的简单神经网络
05-24
nnet.js 纯JavaScript中的简单神经网络实现... net.tune([0.1, 0.1], 0.01) 如果调整使情况变得更糟，请还原到以前的状态，然后重试net.restore() 可以使用var netData = net.save() net.load(netData)保存和加载网络
Ray.tune可视化调整超参数Tensorflow 2.0
sinat_28371057的博客
09-11 777
Ray.tune官方文档 调整超参数通常是机器学习工作流程中最昂贵的部分。 Tune专为解决此问题而设计，展示了针对此痛点的有效且可扩展的解决方案。 请注意，此示例取决于Tensorflow 2.0。 Code: ray/python/ray/tune at master · ray-project/ray · GitHub Examples: https://github.com/ray-project/ray/tree/master/python/ray/tune/examples) Docu..
【笔记】ray.tune ：超参最优化（3）
nyist_yangguang的博客
10-15 675
生成的文件： Code: from functools import partial import numpy as np import os import torch import torch.nn as nn import torch.nn.functional as F import torch.optim as optim from torch.utils.data import random_split import torchvision import torchvision...
分布式算法调参神器HyperOptSearch-[增强学习Ray.tune]-使用XGboost举例
图特摩斯科技-博客
12-06 4473
分布式增强学习Ray.tune调参神器HyperOptSearch 近日在研究分布式增强学习框架Ray.tune（深度学习参数优化）模块时，发现里面使用的HyperOptSearch其实是基于HyperOpt（最后章节讲解）（https://github.com/hyperopt/hyperopt）支持的SearchAlgorithm，用于执行基于模型的顺序超参数优化，但是又结合了一些新的算法进...
使用ray.tune实现机器学习方法超参数优化
dela1024的博客
11-23 293
调用ray.tune对神经网络进行自动调参，不再手动调参。
解决rllib使用custom model没有日志输出的问题
bug404
05-06 476
在rllib的example中，有一个custom model的例子，链接，但是运行这个就会发现一个问题，没有训练的日志输出，只有这个状态信息，训练过程中的training iter, episode reward mean等信息都不输出。 == Status == Memory usage on this node: 1.2/9.3 GiB Using FIFO scheduling algorithm. Resources requested: 0/1 CPUs, 0/0 GPUs, 0.0/5.22
使用Ray Tune自动调参
m0_51612473的博客
04-20 5572
提示：文章写完后，目录可以自动生成，如何生成可参考右边的帮助文档 文章目录前言一、Ray Tune是什么？二、使用步骤1.安装包2.引入库2.读入数据总结 前言 提示：这里可以添加本文要记录的大概内容： 本文基于PyTorch框架构建的卷积网络模型介绍如何使用Ray Tune进行自动调参。 提示：以下是本篇文章正文内容，下面案例可供参考 一、Ray Tune是什么？ Ray Tune是一个用来实验执行和超参数调优的Python包，其中集成了网格搜索、随机搜索、贝叶斯优化搜索（BayesOptSear.
Ray----Tune(2):Tune的用户指南
weixin_43255962的博客
04-11 4778
Tune概述 /home/kangkang/桌面/2019-04-04 10-02-17屏幕截图.png
MLP自动调参——Raytune实例
weixin_51568626的博客
04-26 849
MLP自动调参——Raytune实例记录
深度强化学习框架Ray|RLLib|Tune学习笔记
SL_World的博客
04-19 4797
文章目录0 Ray深度强化学习框架概述1 Ray使用场景—多进程2 Ray使用场景—进程间通信3 Tune使用场景—调参4 RLLib使用场景—RL算法5 Ray、Tune和RLLib关系6 Ray系统架构（实现多进程和跨节点通信）6.1 Ray系统架构—概述6.2 Ray系统架构—内存管理7 Tune系统架构（实验资源分配+调参）8 RLLib系统架构（Trainer、Policy和Agent）8.1 Policy实现功能8.2 Trainer实现功能参考文献 0 Ray深度强化学习框架概述 Ray—
AttributeError: module 'ray.tune' has no attribute 'report'
最新发布
03-25
AttributeError: module 'ray.tune' has no attribute 'report' 是一个错误提示，意味着在ray.tune模块中没有名为'report'的属性。这通常是因为你在使用ray.tune模块时尝试访问了一个不存在的属性。 Ray Tune是一个用于分布式超参数调优和分布式训练的Python库。它提供了一组工具和算法，帮助你更高效地搜索和优化机器学习模型的超参数。 关于AttributeError: module 'ray.tune' has no attribute 'report'的问题，可能有以下几个原因： 1. 版本不匹配：你使用的ray.tune版本可能过低，没有包含'report'属性。建议升级到最新版本。 2. 拼写错误：请检查你的代码，确保正确拼写了'report'属性。 3. 导入错误：请确认你正确导入了ray.tune模块，并且模块已经成功安装。 如果你需要更详细的帮助，请提供更多上下文信息，例如你的代码片段或更具体的错误提示。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

程序猿的探索之路

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付：¥1
获取中
扫码支付

您的余额不足，请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值