【spinning up】2.2 功能超全的强化学习画图脚本

16 篇文章 9 订阅
13 篇文章 5 订阅

功能超全的强化学习画图脚本


相比于原始的Spinning up 的plot.py文件

原始画图效果:

在这里插入图片描述
线条多一点,就根本分不清谁是谁了。
在这里插入图片描述

加了九大功能:

  1. 可以直接在pycharm或者vscode执行,也可以用命令行传参;
  2. 按exp_name排序,而不是按时间排序;
  3. 固定好每个exp_name的颜色;
  4. 可以调节曲线的线宽,便于观察;
  5. 保存图片到本地,便于远程ssh画图~
  6. 自动显示全屏
  7. 图片自适应
  8. 针对颜色不敏感的人群,可以在每条legend上注明性能值,和性能序号
  9. 新功能,在plot_demo_files里面添加了同一个实验、四组不同随机种子的数据,便于大家测试和调参。

例程图:
在这里插入图片描述

注意:seaborn版本0.8.1

最终画图效果:

在这里插入图片描述
如果大家还有什么新的功能,我也可以想办法加上去~

多个子图绘制和图例legend位置调整:

如下图,如果是多个子图的绘制,需要利用group_plot.py脚本:
https://github.com/kaixindelele/DRLib/blob/main/spinup_utils/group_plot.py

这里的legend位置要调整到最底层,不能简单的用默认的best设置,需要替换成:

plt.legend(bbox_to_anchor=(x, y))

这里的y为负数,代表在子图的下面~

在这里插入图片描述

代码链接,有详细注释:

https://github.com/kaixindelele/DRLib/blob/main/spinup_utils/plot.py

关于强化学习绘图的其他优质教程:

尤其是关于tsplot和lineplot函数的使用:
以及设置画一些和spinningup格式不一样的图,可以参考下面的教程和代码。
但是如果画多组实验,全部功能的图,最好还是用我那个~

  1. 启人大佬:强化学习实验中的绘图技巧-使用seaborn绘制paper中的图片
  2. 使用seaborn绘制强化学习中的图片

联系方式:

ps: 欢迎做强化的同学加群一起学习:

深度强化学习-DRL:799378128

欢迎关注知乎帐号:未入门的炼丹学徒

CSDN帐号:https://blog.csdn.net/hehedadaq

极简spinup+HER+PER代码实现:https://github.com/kaixindelele/DRLib

  • 2
    点赞
  • 26
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 5
    评论
spinningup是一个开源的强化学习库,用于实现和研究强化学习算法。你引用的命令是在运行spinningup库中的一个脚本,用于绘制训练过程中的数据图表。\[1\] 在强化学习中,随机性策略是指在每个状态下,代理根据概率分布选择动作。这种策略可以帮助代理在探索和利用之间找到平衡。\[2\] 基于策略的动作-价值函数是用来评估在给定策略下,执行某个动作后的预期回报。它表示在状态s下选择动作a后,按照策略π执行动作所获得的预期回报。\[3\] 关于spinningup的笔记,可以参考官方文档和教程,其中包含了详细的使用说明和示例代码,可以帮助你更好地理解和使用spinningup库。 #### 引用[.reference_title] - *1* [spinningup源码学习一](https://blog.csdn.net/CAIYUNFREEDOM/article/details/127507478)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insert_down28v1,239^v3^insert_chatgpt"}} ] [.reference_item] - *2* *3* [OpenAI Spinning Up强化学习笔记——关键概念与术语](https://blog.csdn.net/weixin_42722013/article/details/121001614)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insert_down28v1,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]
评论 5
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

hehedadaq

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值