GAN领风骚!Github盘点2021最惊艳38篇AI论文

8fde83aee015589e1b20225a5ad61940.png


  新智元报道  

来源:Github  编辑:David

【新智元导读】2021年是人工智能继续突飞猛进的一年。近日,Github上有人总结出了今年最有趣、最惊艳的38篇关于AI和机器学习论文,值得收藏。

1、Zero-Shot Text-to-Image Generation

https://arxiv.org/pdf/2102.12092.pdf

fdc90de09273941f68bf4086dd3aca67.png

文本到图像的生成传统上侧重于为固定数据集的训练寻找更好的建模假设。本文描述了一种基于Transformer的简单方法来完成此任务,将文本和图像标记自回归建模为单个数据流。凭借足够的数据和规模,当以零样本方式进行评估时,我们的方法与以前的特定领域模型相比具有竞争力。

2、VOGUE: Try-On by StyleGAN Interpolation Optimization

https://vogue-try-on.github.io/static_files/resources/VOGUE-virtual-try-on.pdf

4a3726fc7f2baa67ab747df0a51566f8.png

给定目标人物的图像和穿着服装的另一个人的图像,我们会自动生成给定服装中的目标人物。我们方法的核心是姿势条件 StyleGAN2 潜在空间插值,它无缝地结合了每个图像的兴趣区域,即体型、头发和肤色来自目标人物,而带有褶皱的服装 、材料属性和形状来自服装图像。

3、Taming Transformers for High-Resolution Image Synthesis

https://compvis.github.io/taming-transformers/

709ec7665704131e5ae95e5c6f856272.png

本文将 GAN 和卷积方法的效率与Transformer的表达能力相结合,为语义引导的高质量图像合成提供了一种强大且省时的方法。

4、Thinking Fast And Slow in AI 

https://arxiv.org/abs/2010.06002

1df6396ea84f51732c2b5e125a4ce133.png

本文从人类能力中汲取灵感,提出了走向更通用和更值得信赖的人工智能(AGI)和人工智能研究社区的 10 个问题。

5、Automatic detection and quantification of floating marine macro-litter in aerial images

https://doi.org/10.1016/j.envpol.2021.116490

dc720a4770ac2c78d70d3c23200914d4.png

来自巴塞罗那大学的研究人员开发了一种基于深度学习的算法,能够从航拍图像中检测和量化漂浮的垃圾。他们还制作了一个面向网络的应用程序,允许用户在海面图像中识别这些垃圾。

6、ShaRF: Shape-conditioned Radiance Fields from a Single View

https://arxiv.org/abs/2102.08860

43f9135b916134ff73bf18cdc1ed60f3.png

试想一下,如果只拍摄对象的照片并将其以 3D 格式插入到您正在创建的电影或视频游戏中,或者插入到 3D 场景中进行插图,那该有多酷。

7、Generative Adversarial Transformers

https://arxiv.org/pdf/2103.01209.pdf

41a438e1b597eea7513f29fb95b3da6e.png

本文利用了强大的 StyleGAN2 架构中Transformer的注意力机制,使其更加强大!

8、We Asked Artificial Intelligence to Create Dating Profiles. Would You Swipe Right? 

https://studyonline.unsw.edu.au/blog/ai-generated-dating-profile

d21f482b403e7877412951120548366f.png

你会在 AI 的个人资料页面上仔细查看吗?你能区分真人与机器吗?这项研究揭示了在约会应用程序上使用AI,会发生什么事情。

9、Swin Transformer: Hierarchical Vision Transformer using Shifted Windows

https://arxiv.org/abs/2103.14030v1

e8294b4b6aeee01c0410ba4925e22cfa.png

Transformers 会取代计算机视觉中的 CNN 吗?在不到 5 分钟的时间内,你就可以通过这篇关于 Swin Transformer 的新论文,了解如何将 Transformer 架构应用于计算机视觉任务。

10、IMAGE GANS MEET DIFFERENTIABLE RENDERING FOR INVERSE GRAPHICS AND INTERPRETABLE 3D NEURAL RENDERING

https://arxiv.org/pdf/2010.09125.pdf

e184f2a9f87eaa474c58f10db62b90c5.png

本文提出了名为 GANverse3D 的模型,只需要一张图像,就可以创建可以自定义和动画的 3D 图像。

11、Deep nets: What have they ever done for vision?

https://arxiv.org/abs/1805.04025

4220ee7bba2fb9951a95ee714a08c451.png

本文将公开分享有关用于视觉应用的深度网络、它的成功之处,以及我们必须解决的局限性等一切内容。

12、Infinite Nature: Perpetual View Generation of Natural Scenes from a Single Image 

https://arxiv.org/pdf/2012.09855.pdf

580076855b720d3820077b79a2d06a1b.png

视图合成的下一步,就是永久视图生成,目标是创造出一张能够飞入其中的图片,还能在图像内的美景进行探索!

13、Portable, Self-Contained Neuroprosthetic Hand with Deep Learning-Based Finger Control

https://arxiv.org/abs/2103.13452

e249606b03aa2bb8da2bbfa5c7c63abd.png

本文提出了一种由人工智能驱动的神经接口,截肢患者可以以栩栩如生的灵巧和直觉来控制神经假肢。

14、Total Relighting: Learning to Relight Portraits for Background Replacement 

https://augmentedperception.github.io/total_relighting/total_relighting_paper.pdf

c02f6d9dfe7d78df5b6c5683ba4ff9fe.png

你有没有想过改变图片的背景,但让它看起来很逼真?这并不简单。你不能只是在家里拍一张自己的照片,然后换成海滩背景。图片看起来会很假,任何人都会马上看出「这是PS的」。本文提出的方法可能会完美解决这个问题。

15、LASR: Learning Articulated Shape Reconstruction from a Monocular Video 

https://openaccess.thecvf.com/content/CVPR2021/papers/Yang_LASR_Learning_Articulated_Shape_Reconstruction_From_a_Monocular_Video_CVPR_2021_paper.pdf

32e92b8ac579fe80906afab6f42cf9c2.png

本文提出一种方法,可以仅以短视频作为输入,生成人类或动物移动的 3D 模型。事实上,模型实际上明白,生成的目标是一个奇怪的形状,可以移动,但仍然需要和原视频保持附着,因为这仍然是「一个目标」,而不仅仅是多目标的集合。

16、Enhancing Photorealism Enhancement 

http://vladlen.info/papers/EPE.pdf

061522da3c3010316068996001dc023b.png

本文中,英特尔的研究人员提出一个 AI模型,可实时应用于视频游戏,并让每一帧图像看起来更自然。

如果你认为这「只是另一个 GAN」,将视频游戏的图片作为输入,并按照自然世界的风格对其进行修改,其实并非如此。你可以在游戏图形上花费更少的精力,使其稳定和完整,然后使用此模型改进图形风格。

17、DefakeHop: A Light-Weight High-Performance Deepfake Detector

https://arxiv.org/abs/2103.06929

db9665a4ae2e695ef3e8667c3eb61b5b.png

如何在 2021 年准确识别Deepfake假视频?这篇新论文可能会提供答案。可能是「再次使用人工智能」。以后,「眼见为实」可能很快就会变成「AI说真才是真」。

18、High-Resolution Photorealistic Image Translation in Real-Time: A Laplacian Pyramid Translation Network

https://arxiv.org/pdf/2105.09188.pdf

b5b0e377417365e78a4d02112ec93732.png

本文提出一种基于机器学习的新方法,实时将任何样式的图像翻译成指定风格的 4K 图像!

19、Barbershop: GAN-based Image Compositing using Segmentation Masks 

https://arxiv.org/pdf/2106.01505.pdf

07948cea8a5caf512ee99158b5dd6038.png

这篇文章本身并不是一项新技术,而是关于 GAN 的一个令人兴奋的新应用。这个 AI 可以改变你的发型,看看改变前后的对比吧。

20、TextStyleBrush: Transfer of text aesthetics from a single example 

https://arxiv.org/abs/2106.08385

947ff311a11c0bb3a1c538d632c3af25.png

2021年,在异国旅行的你走进一家餐馆,面对看不懂的菜单,你甚至不需要打开谷歌翻译,只要简单地使用 Facebook AI 的这篇文章中的新模型,就可以翻译菜单图像中的每个文字。

21、Animating Pictures with Eulerian Motion Fields

https://arxiv.org/abs/2011.15128

d19180b8a04df16fb1d10156b8333ff2.png

本文中的AI模型拍摄一张照片,了解哪些粒子应该在移动,并将图片转换为无限循环的动画,同时完全保留图片的其余部分,创建出逼真的视频。

22、CVPR 2021最佳论文奖: GIRAFFE - Controllable Image Generation 

http://www.cvlibs.net/publications/Niemeyer2021CVPR.pdf

dfe2c5c8e7377b6aa6c9702cac5b4787.png

本文使用修改后的 GAN 架构,可以在不影响背景或其他目标的情况下移动图像中的目标。

23、GitHub Copilot & Codex: Evaluating Large Language Models Trained on Code

https://arxiv.org/pdf/2107.03374.pdf

71d6a34e77412251b4e23010604a0575.png

OpenAI 的这个新模型,可以从单词生成代码。

24、Apple: Recognizing People in Photos Through Private On-Device Machine Learning 

https://machinelearning.apple.com/research/recognizing-people-photos

e8f98dfcd97046ef4e747753cca87b4a.png

苹果使用在您的设备上多种基于机器学习的算法,让用户在 iOS 15 上实现准确规划和组织自己的图像和视频。

25、Image Synthesis and Editing with Stochastic Differential Equations

https://arxiv.org/pdf/2108.01073.pdf

a053aa41d6ab513e861c79541ee1d7df.png

是时候告别复杂的 GAN 和用于图像生成的Transformer架构了!来自斯坦福大学和卡内基梅隆大学的研究人员可以从任何基于用户的输入中生成新图像。即使是毫无艺术基础的人,现在也可以从草图中生成漂亮的图像。

26、Sketch Your Own GAN

https://arxiv.org/abs/2108.02774

c61b01238b4494c664459a4e4e1cf4a3.png

通过按照草图生成图像,让每个人都可以更轻松地进行 GAN 训练!事实上,借助这种新方法,您可以根据最简单的知识类型来控制 GAN 的输出:手绘草图。

27、Tesla's Autopilot Explained

https://www.louisbouchard.ai/tesla-autopilot-explained-tesla-ai-day/

49ca6c11ddb66f3ad1fc045433f8527e.png

本文中,特斯拉人工智能总监安德烈·卡帕西等人展示了特斯拉的自动驾驶系统是如何通过他们的八个摄像头采集图像,实现道路上导航。

28、Styleclip: Text-driven manipulation of StyleGAN imagery

https://arxiv.org/abs/2103.17249

37ec1aa12c3a73ece5c46b3e0c89a2f1.png

AI 可以生成图像,通过反复试验,研究人员可以按照特定的样式控制生成结果。现在,有了这个新模型,只使用文本就能做到这一点!

29、Time Lens: Event-based Video Frame Interpolation

http://rpg.ifi.uzh.ch/docs/CVPR21_Gehrig.pdf

ed1bcaa38e8af8c826e8a6e774928990.png

TimeLens 模型可以理解视频帧之间的粒子运动,以人眼无法捕捉的速度重建视频。事实上,本文中的模型效果达到了目前智能手机都无法达到的效果。

30、Diverse Generation from a Single Video Made Possible

https://arxiv.org/abs/2109.08591

f5cddf12a7a6a55b8c08f45ba0950a69.png

你有没有想过编辑视频?比如删除或添加某人、更改背景、更改分辨率以适应特定的纵横比,无需对原视频进行压缩或拉伸它。本文中的这项新研究。可以帮助你在单个视频中以高清格式完成所有这些工作。

31、Skillful Precipitation Nowcasting using Deep Generative Models of Radar 

https://www.nature.com/articles/s41586-021-03854-z

33007bd3d074be9be6d2fc8d8309ec66.png

DeepMind 刚刚发布了一个生成模型,能够在 89% 的情况下优于广泛使用的临近预报方法,其准确性和实用性通过了 50 多位气象学家的评估!这个模型专注于预测未来 2 小时内的降水,实现效果出奇地好。

32、The Cocktail Fork Problem: Three-Stem Audio Separation for Real-World Soundtracks

https://arxiv.org/pdf/2110.09958.pdf

7c0effd303421d126c77ad634d8089bb.png

你是否曾在收看视频或电视节目时完全听不见演员的声音,或者音乐太大声?嗯,这个问题可能永远不会再发生了。三菱和印第安纳大学刚刚发布了一个新模型和一个新数据集,用于识别并处理关于视频配乐声音的问题。

33、ADOP: Approximate Differentiable One-Pixel Point Rendering

https://arxiv.org/pdf/2110.06635.pdf

8b8a52697d1136655b7d2c24b06178d8.png

想象一下,从拍摄的一堆照片中生成一个 3D 模型或一段简单流畅的视频。现在,这个目标可以实现了。

34、(Style)CLIPDraw: Coupling Content and Style in Text-to-Drawing Synthesis

https://arxiv.org/abs/2111.03133

13dff76d22e5eaae23ed4e22619b51ca.png

只需要拍一张你要复制样式的图片,再输入你要生成的文字,本文中的算法就会自动生成一张新的图片。

35、SwinIR: Image restoration using swin transformer

https://arxiv.org/abs/2108.10257

f5ed8f8db56b989e087c1eb9fa839476.png

您是否曾经拍下过非常喜欢的图像,但现在只有一张小图了?如果能把它的清晰度提高四到八倍该有多好。本文中的方法可以将图像的分辨率提高4倍,使其看起来更加平滑。而且可以在几秒钟内自动完成,几乎适用于任何图像。

36、EditGAN: High-Precision Semantic Image Editing 

https://arxiv.org/abs/2111.03186

1e58643666f7de0b521cbf76ef71c365.png

本文中的图像编辑工具可以从草稿中控制任何特征,只会编辑你想要的内容,保持图像的其余部分不变。这是一款NVIDIA、MIT 和 UofT 提出的基于 GAN 的草图模型的 SOTA 图像编辑工具。

37、CityNeRF: Building NeRF at City Scale

https://arxiv.org/pdf/2112.05504.pdf

8cb6230a9cd87e6dd8cc43782b12d8e3.png

本文中的模型称为 CityNeRF,是从 NeRF 发展而来的。NeRF 是最早使用辐射场和机器学习从图像构建 3D 模型的模型之一。但效率不高,而且只适用于单一规模。本文中,CityNeRF可同时应用于卫星和地面图像,为任何视点生成各种 3D 模型比例。

38、ClipCap: CLIP Prefix for Image Captioning

https://arxiv.org/abs/2111.09734

fc813b773b4d992e0a49c1a9bd9317f4.png

CLIP 是一种将图像与文本作为指南链接的模型。一个非常相似的任务称为图像字幕,听起来很简单,但实际上也同样复杂。它体现了机器生成图像自然描述的能力。简单标记您在图像中看到的对象很容易,但理解单个二维图片则是另一回事,这个新模型做得非常好。

参考资料:

https://github.com/louisfb01/best_AI_papers_2021#6

猜您喜欢:

超110篇!CVPR 2021最全GAN论文汇总梳理!

超100篇!CVPR 2020最全GAN论文梳理汇总!

拆解组新的GAN:解耦表征MixNMatch

StarGAN第2版:多域多样性图像生成

附下载 | 《可解释的机器学习》中文版

附下载 |《TensorFlow 2.0 深度学习算法实战》

附下载 |《计算机视觉中的数学方法》分享

《基于深度学习的表面缺陷检测方法综述》

《零样本图像分类综述: 十年进展》

《基于深度神经网络的少样本学习综述》

a8908b86ad817122a0500eaa3161627d.png

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值