Isaac Gym, Sim, Lab

已于 2024-12-13 10:56:14 修改
阅读量3k 收藏 15
点赞数 13
分类专栏： IsaacSim 笔记 文章标签： isaacsim 笔记 docker isaac lab
于 2024-12-11 18:44:20 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_61044335/article/details/144406660
版权

本文仅为个人学习笔记，文章参考请见参考资料部分，主要目的是进行多场景并行仿真测试，笔记中大部分内容都是针对于这个目标。

参考资料

常见问题 — Isaac Lab 文档

https://github.com/isaac-sim/IsaacLab

一. Gym, Sim, Lab 之间的关系

        Isaac Gym [MWG+21] 提供了一个高性能的基于GPU的机器人学习物理模拟器。它建立在 PhysX 之上，支持GPU加速的刚体模拟和用于直接访问物理模拟数据的Python API。通过端到端的GPU pipeline，相对于基于CPU的物理引擎，可以实现高帧率。该工具已成功应用于许多研究项目中，包括: 四足动物行走 [RHRH22] [RHBH22] 、手中操作 [HAM+22] [AML+22] 和工业装配 [NSA+22] 。

        尽管Isaac Gym很成功，但它不是为机器人学习而设计的通用模拟器。例如，它不包括可变形和刚性对象之间的交互，高保真度渲染以及ROS的支持。该工具主要是作为预览版发布，以展示底层物理引擎的功能。随着 Isaac Sim 的发布，NVIDIA正在构建通用的机器人模拟器，并将Isaac Gym的功能集成到Isaac Sim中。

        Isaac Sim 是一个构建在Omniverse之上的机器人模拟工具包，Omniverse是旨在统一复杂3D工作流的通用平台。Isaac Sim利用最新的图形和物理模拟技术，为机器人提供高保真度的模拟环境。它支持ROS/ROS2、各种传感器模拟、域随机化和合成数据创建工具。Isaac Sim中的分块渲染支持在环境中进行矢量化渲染，并支持使用 Isaac Automator 在云中运行。总的来说，它是机器人学家的一个强大工具，是机器人模拟领域的一个重要进步。

        随着以上两个工具的发布，NVIDIA还发布了一个名为 IsaacGymEnvs 和 OmniIsaacGymEnvs 的开源环境集，它们是分别建立在Isaac Gym和Isaac Sim之上。这些环境旨在展示底层模拟器的功能，并为了解模拟器用于机器人学习的可能性提供了一个起点。这些环境可用于基准测试，但不适用于开发和测试定制环境和算法。这就是Isaac Lab的作用所在。

        Isaac Lab建立在Isaac Sim之上，为机器人学习提供一个统一且灵活的框架，利用最新的模拟技术。它被设计成模块化和可扩展的，旨在简化机器人研究中常见的工作流程（如RL、基于演示的学习和运动规划）。尽管它包含一些预先构建的环境、传感器和任务，但它的主要目标是提供一个开源的、统一的、易于使用的界面，用于开发和测试定制环境和机器人学习算法。它不仅继承了Isaac Sim的功能，还添加了一些与机器人学习研究相关的新功能。例如，在模拟中包括执行器动力学、程序地形生成和支持从人类演示中收集数据。

        Isaac Lab取代了以前的 IsaacGymEnvs 、 OmniIsaacGymEnvs 和 Orbit 框架，将成为Isaac Sim的单一机器人学习框架。之前发布的框架已被弃用，我们鼓励用户按照我们的 迁移指南 完成迁移工作。

        Isaac Sim 为闭源状态，用户很难为模拟器做出贡献并构建一个共同的研究框架。Isaac Lab提供了一个开源平台，让社区能够以集中的努力推动进步，共同设计基准和机器人学习系统。这使我们能够重复使用现有的组件和算法，并在彼此的工作基础上进行开发。这样不仅节省了时间和精力，还让我们能够专注于研究的更重要方面。我们希望Isaac Lab成为机器人学习研究的事实标准平台，并成为一个利用Isaac Sim的环境 动物园 （即多样化的环境）。随着该框架的成熟，我们预见它将大量受益于NVIDIA内部和合作伙伴的最新仿真进展以及机器人技术领域的研究。

二. Isaac Lab 安装

        我是远程服务器安装 lab ，因为这个docker是直接依赖于isaac sim docker的镜像，所以先安装 Isaac Sim 的 docker。

        接下来找一个地方放 isaac lab 的文件

git clone https://github.com/isaac-sim/IsaacLab.git

        这里我使用X11方式，X11 转发是一种机制，允许图形用户界面（GUI）应用程序在远程机器上运行，而显示在本地机器上。

        安装的太大太慢可以加清华源或者找代理

vi ./docker/Dockerfile.base

在里面找到

RUN --mount=type=cache,target=${DOCKER_USER_HOME}/.cache/pip \
    ${ISAACLAB_PATH}/isaaclab.sh --install

后面加一个ENV+你的代理内容

         指定安装 lab 4.1.0版本，因为我的 isaacsim 镜像的是4.1.0

ISAACSIM_BASE_IMAGE=nvcr.io/nvidia/isaac-sim ISAACSIM_VERSION=4.1.0 ./docker/container.py start

安装完成后输出以下类似内容：

测试后发现这种安装方式会导致一些东西安装失败，需要将刚刚加入的env内容删去再重新运行一遍，补充安装失败的部分

启动：

# Enter the container
# We pass 'base' explicitly, but if we hadn't it would default to 'base'

./docker/container.py enter base

python docker/container.py enter

测试：

isaaclab -p source/standalone/tutorials/00_sim/log_time.py --headless

停止：

# stop the container
./docker/container.py stop

三.Isaac Lab 使用

任务设计工作流

关节系统/关节驱动

        现实中常说的驱动，在仿真中可以等于驱动关节，也称为自由度（DOF）。在物理系统中，驱动通常通过主动组件进行，例如电动或液压马达，或通过被动组件，例如弹簧。这些组件可能会引入某些非线性特性，包括延迟或最大可产生的速度或扭矩。

        在仿真中，关节可以是位置控制、速度控制或扭矩控制。对于位置和速度控制，物理引擎内部实现了一个弹簧-阻尼（PD）控制器，用于计算作用在执行关节上的扭矩。在扭矩控制中，命令直接设置为关节力。虽然这模拟了关节机制的理想行为，但并不能真实地模拟驱动器在现实世界中的工作方式。因此，我们提供了一个机制来注入外部模型，以计算关节命令，以代表物理机器人的行为。

        3个自由度：指一个物体在空间中可以进行的三种独立运动。这些运动可以分为 线性运动 和 旋转运动，具体取决于所研究的系统和约束条件。

        （线性三自由度）如果一个物体仅限于在三维空间中进行平移（没有旋转），则其自由度是三个，每个方向对应一个自由度：

  • X 方向的平移：沿水平轴（左右方向）的运动。
  • Y 方向的平移：沿垂直轴（前后方向）的运动。
  • Z 方向的平移：沿深度轴（上下方向）的运动。

        （旋转三自由度）如果一个物体固定在某点（如悬挂在一个固定点上），则它只能围绕该点旋转，具有三个旋转自由度：

  • 绕 X 轴的旋转（滚动，Roll）：物体绕水平轴旋转。
  • 绕 Y 轴的旋转（俯仰，Pitch）：物体绕垂直轴旋转。
  • 绕 Z 轴的旋转（偏航，Yaw）：物体绕深度轴旋转。

        （组合三自由度）在某些情况下，三自由度可以是线性运动和旋转运动的组合。例如：

  • 一个平面内的运动（如机器人臂末端在一个平面内移动）可能包含两个线性运动和一个旋转运动。
  • 某些机械系统可能通过两平移加一旋转的方式实现三自由度。

传感器

        传感器 — Isaac Lab 文档

        每个传感器在 Isaac Lab 中都继承自 SensorBase 抽象类。这个 update_period 是以 “模拟” 秒为单位定义的，这意味着即使仿真中的时间流逝相对于现实世界有所延迟，传感器也会以适当的速率更新。

        传感器类别中的光线投射传感器其实通俗意义上讲就是激光雷达的上层概括说法。单位是度。

坐标系转换器

        坐标系转换器 — Isaac Lab 文档

        坐标系转换：在任意欧几里得坐标系的基底下重写向量或四元数。在 Isaac Sim 和 USD 文件中有很多方式来进行坐标系转换，但在 Isaac Lab 的基于 GPU 的仿真和克隆环境中实现这些方法可能会显得繁琐。于是有了坐标系转换传感器，能够跟踪并计算场景中感兴趣的刚体的相对坐标系转换。

可用环境中没有轮式机器人呢。（操作臂、四足运动任务、宇树科技的机器人及机器狗、导航任务用的ANYmal C机器人、Crazyfie无人机、倒立摆问题测试机器人、还有一些综合环境等lab下载好了看看）

强化学习

        有点感兴趣，但暂时用不到，等过一阵回来玩

        多GPU、多节点进行强化学习训练多GPU和多节点训练 — Isaac Lab 文档

场景演示

        创建和生成具有不同配置的程序生成地形

./isaaclab.sh -p source/standalone/demos/procedural_terrain.py

Hydra配置系统

        Hydra 配置系统 — Isaac Lab 文档

        以通过命令行参数修改任务的配置，这对于自动化实验和执行超参数调整非常有用。

NVIDIA Isaac Lab 入门教程（一）
weixin_46300916的博客
08-16 4566
Isaac Lab 是一个用于机器人学习的统一模块化框架，旨在简化机器人研究中的常见工作流程（如 RL、从演示中学习和运动规划）。它建立在英伟达 Isaac Sim 的基础上，利用最新的仿真功能实现逼真的场景和快速高效的仿真。该框架的核心目标是Isaac Lab 的主要功能包括：由 PhysX 提供的快速准确的物理模拟、用于矢量化渲染的平铺渲染 API、用于提高鲁棒性和适应性的域随机化，以及对在云中运行的支持。有关该框架的更多信息，请参阅论文[MYY+23]。
缩小模拟与现实之间的差距：使用 NVIDIA Isaac Lab 训练 Spot 四足动物运动
AI大模型
08-27 2973
凭借其高保真物理和域随机化功能，Isaac Lab 弥合了模拟与现实之间的差距，实现了将训练好的模型无缝部署到物理机器人上，零样本。Isaac Lab 的精确物理和域随机化功能可以将模拟训练的策略部署到 Jetson Orin zero shot 上的真实 Spot 机器人上，从而在虚拟和现实世界中实现类似的性能。这篇文章解释了如何在 Isaac Sim 和 Isaac Lab 中为 Spot 创建运动 RL 策略，并使用 RL Researcher Kit 中的组件将其部署到硬件上。
NVIDIA Isaac 平台工具详解：Isaac Sim、Isaac Lab、Omniverse 及其他组件关系梳理
最新发布
zhaoliang的博客
02-26 1598
NVIDIA Isaac 平台工具详解：Isaac Sim、Isaac Lab、Omniverse 及其他组件关系梳理
Isaac Sim+SKRL机器人并行强化学习
sinat_34156619的博客
11-14 3万+
ISAAC SIM+SKRL 强化学习训练
isaac gym使用记录
weixin_41652700的博客
02-22 1229
运行倒立摆任务，运行一会就可以收敛。headless设置为True可以无图像输出 test代表测试模式，num_envs是指定环境数量，checkpoint是模型的地址
英伟达 Isaac Sim仿真平台与深度强化学习环境搭建
热门推荐
weixin_42312251的博客
11-19 4万+
使用Isaac Sim仿真平台与深度强化学习环境搭建
探索 Isaac Gym：一个用于机器人模拟与学习的高性能框架
gitblog_00052的博客
04-16 1511
探索 Isaac Gym：一个用于机器人模拟与学习的高性能框架 去发现同类优质开源项目:https://gitcode.com/ 是一款由 NVIDIA 开发的开源平台，专为物理模拟和强化学习中的机器人应用设计。它提供了高效的 GPU 加速计算，让开发者能够快速地进行大规模、高精度的机器人模拟实验。本文将深入探讨 Isaac Gym 的核心特性、技术优势，以及如何利用它进行创新性的工作。 项目简介...
使用Isaac Gym 来强化学习大象机器人mycobot 机械臂执行抓取任务
m0_71627844的博客
07-03 1万+
这一次，我使用 Isaac Gym 创建了一个强化学习任务，并实际训练了模型。我在 3D 物理模拟器中体验了机器人强化学习问题的设计以及运行训练模型时出现的问题。能够测试学习环境而不必从头开始编写强化学习算法很有吸引力。基准环境的可用性使得比较和验证新的学习算法变得容易，这对于具有各种专业背景的研究人员和分析师来说是一个很大的优势。
issac lab VS isaac gym envs、omni isaac gym envs？（调研+亲身体验）
weixin_65489379的博客
08-15 2524
本文基于之前进行一次整理的调研工作（不过现在基本上每个框架我也都用过），想着写的还挺详细的整理一下分享不过肯定还要很多疏漏和不足之处，还多多望批评指正！
isaacgym和isaacsim仿真的安装，版本配置记录
weixin_50084948的博客
12-29 2083
【代码】isaacgym isaacsim环境和版本配置
4.13-4.15（Ubuntu18.04）--anaconda3、Isaac gym、Isaac sim
weixin_42421591的博客
04-15 2426
一、安装anaconda3 1.下载anaconda3：Anaconda | Anaconda Distribution 2.在终端进入下载： cd Download 或 cd 下载 3.运行.sh文件： bash Anaconda3-5.2.0-Linux-x86_64.sh 4.选项一个选no，其余的yes： “Do you wish to proceed with the installation of Microsoft VSCode? [yes|no]...
具身智能之Isaac Gym使用
lovely_yoshino的博客
11-19 1万+
>关于UCloud(优刻得)旗下的compshare算力共享平台 UCloud(优刻得)是中国知名的中立云计算服务商，科创板上市，中国云计算第一股。 Compshare GPU算力平台隶属于UCloud，专注于提供高性价4090算力资源，配备独立IP，支持按时、按天、按月灵活计费，支持github、huggingface访问加速。 [https://www.compshare.cn/?ytag=GPU_lovelyyoshino_Lcsdn_csdn_display
ISAAC-GYM 学习交流
hongliyu_lvliyu的博客
02-20 1336
ISAAC-GYM学习交流
基于 Isaac Gym 环境的 HighTorque 腿式机器人的强化学习环境.zip
04-29
基于 Isaac Gym 环境的 HighTorque 腿式机器人的强化学习环境.zip
Pocket-Gym-Sim
03-22
Pocket-Gym-Sim
ubuntu22.04 + isaac gym环境配置流程
Yakusha的博客
12-07 1862
【代码】ubuntu22.04 + isaac gym环境配置流程。
Isaac Gym 基准测试环境
AI生成曾小健3
02-23 925
您可以运行基于种群的训练来帮助找到良好的超参数或在非常困难的环境中进行训练，否则如果没有它，就很难学到任何东西。如果您在运行示例时遇到任何问题，请按照 Isaac Gym Preview 4 安装说明中描述的故障排除步骤进行操作。例如，要设置 rl_games 训练运行的折扣率，您可以使用。请注意，这与旧版本的 Isaac Gym 中的先前版本有一些区别。请注意，默认情况下，我们会显示一个预览窗口，这通常会减慢训练速度。如果 RL 策略的确定性训练对您的工作很重要，您可能希望查看我们的。
如何区分：Gymnasium、Gym 和 Isaac Gym？（更新中）
qq_36674060的博客
01-13 1712
特性GymGymnasiumIsaac Gym开发者OpenAI社区维护NVIDIA状态停止更新持续更新持续更新性能基于 CPU基于 CPU基于 GPU，大规模并行仿真主要用途通用强化学习环境通用强化学习环境高性能机器人物理仿真兼容性兼容 Gym API类似 Gym API是否推荐不推荐（已弃用）推荐推荐（适合高性能仿真任务）
Ubuntu20.04 安装 Isaac Gym （机器人仿真）
冀晓武的博客
08-12 2158
在ubuntu20.04 上安装NVIDIA 开发的基于GPU的机器人仿真平台 Isaac Gym。
sim2sim gym mujoco
02-13
### 使用Gym和MuJoCo实现仿真到仿真的转换 在机器人学习领域，仿真环境对于算法开发至关重要。为了提高模型迁移能力，在不同仿真器之间进行仿真到仿真的转换（Sim2Sim Conversion），可以有效减少现实世界部署中的误差[^1]。 #### 安装依赖库 要使用MuJoCo作为物理引擎并结合OpenAI Gym框架创建自定义环境，需先安装必要的Python包： ```bash pip install gym[mujoco] mujoco-py==2.0.2.9 ``` 注意版本兼容性问题；上述命令适用于特定配置，请根据实际情况调整。 #### 创建自定义环境 通过继承`gym.Env`类来构建新的模拟环境，并指定XML文件路径加载所需的场景描述: ```python import os from gym import utils, spaces from gym.envs.mujoco import MujocoEnv class CustomMujocoEnv(MujocoEnv, utils.EzPickle): def __init__(self): xml_path = os.path.join(os.path.dirname(__file__), "assets", "custom_model.xml") super().__init__(xml_file=xml_path) # Define action and observation space here... self.action_space = spaces.Box(low=-1.0, high=1.0, shape=(n_actions,)) self.observation_space = spaces.Box(low=-np.inf, high=np.inf, shape=(obs_dim,), dtype=np.float64) def step(self, a): ... def reset_model(self): ... def viewer_setup(self): ... ``` 此代码片段展示了如何基于现有组件快速搭建一个简单的自定义环境[^2]。 #### 实现Sim2Sim Transfer Learning 针对跨平台间的策略传输，通常采用预训练的方法——即在一个源域上充分训练强化学习代理之后再迁移到目标域继续优化。具体操作如下： - **特征匹配**：确保两个环境下状态表示尽可能一致； - **微调参数**：利用少量样本数据更新网络权重以适应新环境特性； - **对抗训练**：引入判别器区分来自不同分布的数据从而增强泛化性能。 这些技术有助于缓解因动力学差异引起的学习困难，促进更有效的知识传递过程[^3]。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值