Sim-to-Real Transfer of Robotic Assembly with Visual Inputs Using CycleGAN and Force Control

最新推荐文章于 2025-03-24 07:31:15 发布
最新推荐文章于 2025-03-24 07:31:15 发布
阅读量209 收藏
点赞数
分类专栏： 多模态变形金刚 文章标签： 人工智能 深度学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44887311/article/details/131788138
版权
文章探讨了深度强化学习在机器人操作中的挑战，特别是样本效率和安全问题。提出了一种结合CycleGAN和力控制转移的域适应方法，以解决模拟与现实之间的差距，从而成功地将训练从模拟环境转移到真实的钉孔组装任务。

摘要生成于 C知道 ，由 DeepSeek-R1 满血版支持， 前往体验 >

最近，深度强化学习 (RL) 在机器人操作应用中显示出一些令人印象深刻的成功。然而，由于样本效率和安全性问题，现实世界中的训练机器人并非易事。提出了 Simto-real 传输来解决上述问题，但引入了一个新的问题，称为现实差距。在这项工作中，我们引入了一个用于基于视觉的组装任务的模拟到真实的学习框架，并通过使用单个相机的输入在模拟环境中进行训练来解决上述问题。提出了一种基于周期一致生成对抗网络(CycleGAN)和力控制转移方法的域适应方法来弥合现实差距。我们证明了在模拟环境中训练的所提出的框架可以成功地转移到真正的钉孔设置中
在这里插入图片描述

Sim-to-Real: Learning Agile Locomotion For Quadruped Robots 笔记
08-04
Sim-to-Real: Learning Agile Locomotion For Quadruped Robots笔记 Sim-to-Real: Learning Agile Locomotion For Quadruped Robots笔记 Sim-to-Real: Learning Agile Locomotion For Quadruped Robots 笔记
【Sim2real】Sim-to-Real Transfer of Robotic Control with Dynamics Randomization（动态随机化的机器人控制）
apple_63713858的博客
07-11 2297
sim2real是为了减少或消灭模拟与现实的差距（reality gap），本篇论文主要是通过随机化模拟器动态特性（Dynamics Randomization）来弥合这种“现实差距”的方法。这种适应性使策略能够推广到现实世界的动态，而无需对物理系统进行任何培训。
强化学习中 Sim-to-Real 方法综述：基础模型的进展、前景和挑战
yorkhunter的博客
03-03 1034
25年2月来自 Arizona State U 的论文“A Survey of Sim-to-Real Methods in RL: Progress, Prospects and Challenges with Foundation Models”。 深度强化学习 (RL) 已被探索并证实可有效解决机器人、交通、推荐系统等各个领域的决策任务。它从与环境的交互中学习，并使用收集的经验更新策略。然而，由于现实世界数据有限，采取有害行动的后果难以承受，RL 策略的学习主要局限于模拟器中。
《Sim-to-Real Transfer in Deep Reinforcement Learning for Robotics a Survey》阅读笔记
m0_46336633的博客
09-20 3807
链接：https://arxiv.org/pdf/2009.13303.pdf 引用：Zhao W, Queralta J P, Westerlund T. Sim-to-real transfer in deep reinforcement learning for robotics: a survey[C]//2020 IEEE Symposium Series on Computational Intelligence (SSCI). IEEE, 2020: 737-744. 索引次数：25次 关键词
【论文】Closing the Sim-to-Real Loop: Adapting Simulation Randomization with Real World Experience
qq_41614419的博客
12-28 1685
本文主要介绍了对机器手臂动力学参数的分布进行学习，能更有效率的适应真实环境，从而缩小sim to real gap。论文原址： Closing the Sim-to-Real Loop: Adapting Simulation Randomization with Real World Experience sim to real 问题在强化学习中被广泛研究，目前主要有以下几种研究方向：系统辨识（system identification）、领域适应（domain adaption）、参数随机化（pa.
机器人强化学习——Sim-to-Real Robot Learning from Pixels with Progressive Nets (2017)
千羽的计算机视觉与机器人
06-17 1935
机器人强化学习——Sim-to-Real Robot Learning from Pixels with Progressive Nets (2017)
RT-2论文翻译: Vision-Language-Action Models Transfer Web Knowledge to Robotic Control
机器学习实战
01-26 1156
在广泛的Web规模数据集上预训练的高容量模型为各种下游任务提供了有效且强大的平台：大型语言模型不仅可以实现流畅的文本生成（Anil等，2023；Brohan等，2022；OpenAI，2023），还能实现新兴的问题解决（Cobbe等，2021；Lewkowycz等，2022；Polu等，2022）以及散文（Brown等，2020；OpenAI，2023）和代码（Chen等，2021）的创造性生成，而视觉语言模型则实现了开放词汇的视觉识别（Kirillov等，2023；Minderer等，2022；
System-Control-and-Programming-Industrial-Robotic-for-HWASHI:工业机器人的系统控制和编程（用于和硕）
03-20
Hwashi的Industrial Robotic（工业机器人通用软件）。 这个项目创造了OxideDevX（Anon Sec的旧昵称）。项目目标：创建自己的通用系统来控制工业焊接机器人。该存储库在其内存中存储了后处理器模块和用于对中国Hwashi...
2018-A Survey of Force-Assisted Robotic Cell Microinjection Technologies
03-27
microinjection and robotic cell microinjection with sole position feedback, force-assisted robotic cell microinjection can improve the success rate and survival rate of cell injection. In this paper, ...
Adaptive Finite-time Tracking Control for a Robotic Manipulator with Unknown Deadzone
02-07
Radial basis function neural networks (RBFNNs) are employed to approximate the unknown dynamics and the deadzone effect of actuators. Adaptive finite-time tracking controller is then ...
读论文 LM-Nav: Robotic Navigation with Large Pre-Trained Models of Language, Vision, and Action
qq_54044964的博客
08-22 710
VLM将从LLM提取的地标描述与环境中的图像进行匹配，帮助系统确定这些地标在实际环境中的位置。VNM的任务是根据图像中的地标，制定最优的行驶路线，并实际控制机器人执行该路线。语言为与机器人的通信提供了更方便的方式，但当代方法通常需要昂贵的监督，以用语言描述注释的轨迹的形式。本文提出了一个用于机器人导航的系统 LM-Nav，该系统享有在未注释的大型轨迹数据集上进行训练的好处，同时仍然为用户提供高级界面。左侧是输入的自然语言指令，中间是VLM匹配出的地标，右侧是VNM执行路径规划后的实际行走路线。
"Sim-to-Real: Learning Agile Locomotion For Quadruped Robots"代码
02-09
"Sim-to-Real: Learning Agile Locomotion For Quadruped Robots"代码
每天一篇论文 335/365 Modelling Generalized Forces with Reinforcement Learning for Sim-to-Real Transfer
流浪机器人的博客
02-25 794
Modelling Generalized Forces with Reinforcement Learning for Sim-to-Real Transfer 本文是一篇如何通过对强化学习的环境模型力ide约束来优化强化学习对于从仿真训练到真实模型的差距。 摘要 在现实世界中学习机器人控制策略在数据效率、安全性和控制系统初始状态方面都带来了挑战。另一方面，模拟是一种有用的替代方法，因为它们提供...
让机器人从模拟走向现实：李飞飞新作TRANSIC实现这一跨越
soaring_casia的专栏
05-28 1439
该方法尽管在sim-to-real转移方面取得了显著的成果，但仍存在一些限制，需要未来的研究来解决。
SIRA-PCR: Sim-to-Real Adaptation for 3D Point Cloud Registration 论文解读
NPU 研0
08-16 1262
SIRA-PCR论文解读，FlyingShape数据集，Sim-to-Real自适应如何用来作无监督域适应
（CoRL2020）DIRL: Domain-Invariant Representation Learning Approach for Sim-to-Real Transfer 论文笔记
VioletSaber的博客
12-07 1404
（CoRL2020）DIRL: Domain-Invariant Representation Learning Approach for Sim-to-Real Transfer 论文笔记 本文针对的问题是无监督领域自适应和半监督领域自适应问题。 与传统的对抗领域自适应方法对比，其创新性在于 在对齐边缘概率分布的同时也对齐条件概率分布（虽然感觉现在大家都在对齐条件概率分布，应该不能算新颖了） 使用triplet distribution loss来增大类间方差同时缩小雷内方差 本文上来先阐述对齐条件分
论文解析 - 突破物理限制：基于对比学习的机器人灵巧操作Sim2Real方案
03-09 153
（如双手机械抓取、提升、传递等），并解决真实场景中数据稀缺、安全性及泛化能力的挑战。Sim-to-Real RL 用于对类人机器人进行基于视觉的灵巧作。，避免依赖精确的物体姿态或触觉传感器。
UC Berkeley最新！将sim-to-real的强化学习应用于视觉人形机器人灵巧操作！
最新发布
CV_Autobot的博客
03-24 290
Tony 等，2024）。在机器人应用场景中，还面临环境建模不精确的难题，难以准确模拟现实环境的复杂性，以及奖励函数设计困难的问题，难以制定合理有效的奖励机制引导智能体学习，同时在高维动作和感知空间中探索效率较低，学习过程缓慢。具体来说，先从制造商提供的机器人模型文件出发，随机采样参数组合初始化多个模拟环境，接着在真实机器人硬件和模拟环境中并行执行关节位置目标的校准序列，通过比较跟踪误差，选择能最小化均方误差的参数集，从而优化机器人和环境的建模，减少手动调优的工作量，提高仿真与现实的契合度。
sim2real挑战赛学习资料
05-11
以下是一些Sim2Real挑战赛的学习资料： 1. Sim-to-Real Reinforcement Learning for Robotics: A Reality Gap is a challenge in robotics where models trained in simulation often fail to perform well in the real world. This paper examines the problem and proposes a sim-to-real approach to reinforcement learning for robotics. 2. Sim2Real Viewpoint Invariant Visual Servoing by Recurrent Control: This paper proposes a view-invariant visual servoing technique that can generalize well from simulated to real-world environments. 3. Sim-to-Real Transfer of Robotic Control with Dynamics Randomization: This paper introduces a method of training robots in simulation using randomized dynamics and then transferring the learned control policies to the real world. 4. Sim-to-Real Transfer for Deep Reinforcement Learning with Safe Exploration: This paper proposes a method for safe exploration in Sim2Real transfer for deep reinforcement learning. 5. Sim2Real View-Invariant Visual Servoing by Combining Simulation and Deep Learning: This paper proposes a view-invariant visual servoing technique that combines simulation and deep learning to achieve robustness to viewpoint changes. 6. Sim2Real Transfer for Robotic Manipulation: A Survey: This paper provides a comprehensive survey of the existing literature on Sim2Real transfer for robotic manipulation. 7. OpenAI Robotics: Sim2Real Transfer: This blog post by OpenAI provides an overview of Sim2Real transfer for robotics and highlights some of the challenges and opportunities in the field. 8. NVIDIA Research: Sim-to-Real Transfer Learning for Robotics: This video by NVIDIA Research provides an overview of Sim2Real transfer learning for robotics and showcases some of the recent advancements in the field. 9. Sim-to-Real Transfer of Robotic Control with Deep Reinforcement Learning: This paper proposes a method for Sim2Real transfer of robotic control using deep reinforcement learning and demonstrates its effectiveness on a real-world robotic arm. 10. Sim-to-Real Transfer of Control Policies for Robotics using Adversarial Domain Adaptation: This paper proposes a method for Sim2Real transfer of control policies for robotics using adversarial domain adaptation and demonstrates its effectiveness on a real-world robotic arm.
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值