【跨模态转换】音乐生成舞蹈/舞蹈生成音乐

2020 [专题]跨模态转换——音乐生成舞蹈


音乐生成舞蹈

1. EDGE: Editable Dance Generation From Music

CVPR 2023
论文地址
代码地址
请添加图片描述

Abstract

Dance is an important human art form, but creating new dances can be difficult and time-consuming. In this work, we introduce Editable Dance GEneration (EDGE), a state-of-the-art method for editable dance generation that is capable of creating realistic, physically-plausible dances while remaining faithful to the input music. EDGE uses a transformer-based diffusion model paired with Jukebox, a strong music feature extractor, and confers powerful editing capabilities well-suited to dance, including joint-wise conditioning, and in-betweening. We introduce a new metric for physical plausibility, and evaluate dance quality generated by our method extensively through (1) multiple quantitative metrics on physical plausibility, beat alignment, and diversity benchmarks, and more importantly, (2) a large-scale user study, demonstrating a significant improvement over previous state-of-the-art methods. Qualitative samples from our model can be found at our website.

舞蹈是人类重要的艺术形式,但创作新舞蹈既困难又耗时。

在这项工作中,我们介绍了可编辑舞蹈生成技术(Editable Dance GEneration,EDGE),这是一种最先进的可编辑舞蹈生成方法,能够在忠实于输入音乐的同时,创建逼真、物理上可信的舞蹈。

EDGE 采用基于transformer的扩散模型,与强大的音乐特征提取器 Jukebox 搭配使用,并赋予强大的舞蹈编辑功能,包括联合调节和中间调节。

我们引入了一种新的物理可信度指标,并通过(1)物理可信度、节拍对齐和多样性基准等多个量化指标,以及更重要的(2)大规模用户研究,对我们的方法生成的舞蹈质量进行了广泛评估,结果表明我们的方法比以往最先进的方法有显著改进。

您可以在我们的网站上找到我们模型的定性样本。

2. ChoreoMaster : Choreography-Oriented Music-Driven Dance Synthesis

SIGGRAPH 2021
论文地址
论文主页
论文解读
代码地址(无)
请添加图片描述请添加图片描述

3. ChoreoNet: Towards Music to Dance Synthesis with Choreographic Action Unit

2020.9
论文地址
代码地址(无)

4. Music2Dance: DanceNet for Music-driven Dance Generation

2020.2 Computer Vision and Pattern Recognition
论文地址
代码地址(无)

AI产品

网易互娱 AIxDance


舞蹈生成音乐

1. Dancing to Music

2019.11 NeurIPS 2019
论文地址
代码地址

  • 9
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
Transformer模态是指在多模态问题中,将不同模态的信息进行交互和融合的过程。它通过引入双向交叉注意子层来实现模态之间的信息交换和对齐,以建立模态的联系。这种方法在多模态转换器中起到了关键作用,使得不同模态之间的信息能够互相影响和补充,进而提升模型性能。 为了量化预训练模型学习使用模态信息的程度,一种叫做模态输入消融的方法被引入。该方法通过消融一个模态的信息来预测另一个模态的输出,比较不同消融程度对结果的变化,来探究模态之间的相互作用。这种方法不需要额外的训练,可以有效地评估和分析模态之间的关系。 Transformer模态的实现和这种评估方法的引入,为多模态任务的解决提供了一种有效的框架。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* *3* [EMNLP 2021-多模态Transformer真的多模态了吗?论多模态Transformer对模态的影响](https://blog.csdn.net/moxibingdao/article/details/120376236)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] - *2* [LXMERT:从Transformers学习模态编码器表示](https://blog.csdn.net/m0_55844530/article/details/128418352)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_2"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值