晓查 发自 凹非寺
量子位 报道 | 公众号 QbitAI
爱自拍的女生,为了拍一张美照总是需要很久,就是为了找到最美的角度。
比如这位妹子,在自己的书架前拍了4张自拍照,都不太满意。
![6a0315cdff48b8f6b5df3973a5d0697f.png](https://i-blog.csdnimg.cn/blog_migrate/8ff102ddfb24b262d4f9b4819648f751.jpeg)
现在可以把选最美角度这件事交给AI了,让妹子不再苦恼。只要几张照片,它能从中生成各种角度的自拍。
![e03abd2bf8195d2dda629beb3f843005.gif](https://i-blog.csdnimg.cn/blog_migrate/e57cac5231fa08e2a360cc36a79994d0.gif)
然后,你可以在AI生成的视频里,找到一个自认为最美的角度,分享到朋友圈。
这个AI就是华盛顿大学和谷歌联合开发的nerfies。
这种方法不需要太复杂的设备,只要智能手机的摄像头和CPU就能完成运算和渲染。这可比iPhone 12 Pro用内置激光雷达来生成3D图像的成本低多了。
![4c4051444123ae2b2ab7ecc11f71f59d.gif](https://i-blog.csdnimg.cn/blog_migrate/32d4924dd5c2ef7b112a5af72b429e6f.gif)
原理
看到nerfies这个名字是不是有种似曾相识的感觉?nerfies其实就是NeRF+Selfies两个单词合并而来。
NeRF(神经辐射场)是谷歌最近开发的一种2D图像转3D的模型,但NeRF要求拍摄对象在整个过程保持完全静止。
比如,上面的妹子在自拍4张照片的时候,头部姿势不可避免地会发生变化,如果直接套用NeRF,效果惨不忍睹。
![493f175bc7edda6dd7caa25307a60557.png](https://i-blog.csdnimg.cn/blog_migrate/cb863e1d0d82e67794b0756860e78880.jpeg)
而nerfies则是可变性神经辐射场(Deformable NeRF),它能够重建非刚性变形的场景。
在NeRF的基础上,作者从几何和物理模拟的原理出发,提出了NeRF的弹性正则化,进一步提高了2D转3D的鲁棒性。
在可变性NeRF中,作者引入了弹性正则化、背景正则化以及一种可避免不良的局部最小值退火技术。
![8c67609f98bcd5a589ccf41f40d071f6.png](https://i-blog.csdnimg.cn/blog_migrate/5a680e599f150f22dd6062f08ac6fac1.jpeg)
作者将潜在变形码(ω)和外观码(ψ)与每个图像关联。在观测帧中对摄像机光线进行追踪,并使用变形场将样本沿光线转换到规范帧,变形场由变形码ω编码为MLP。
另外使用转换后的样本位置(x0,y0,z0)、观察方向(θ,φ)和外观码ψ作为MLP的输入,来查询模板NeRF模块,并沿着光线对样本进行积分。
更多玩法
可变性NeRF不仅可以用于自拍,还有更多好玩的用途。
比如创建“希区柯克变焦”的效果,过去需要专门的摄影技巧,或者是通过由远及近的拍摄视频再后期处理。现在只要几张照片就可以了。
![c4cb2e5cb0ea9d548fe2ad3adbc51937.gif](https://i-blog.csdnimg.cn/blog_migrate/b262df86ffb2d0537926947dc2f9b8e1.gif)
如果不需要场景角度变化,而是需要人物姿势变化呢?
可变性NeRF能在头向左和向右之间线性插入任意姿势的照片。
![e3854027250bbb335a1e6f0bd4c6246b.png](https://i-blog.csdnimg.cn/blog_migrate/cacdb43341d54dd11a3d4f8815a27cd2.jpeg)
最后还有一个用途是生成防抖视频。既然可变性NeRF可以生成任意角度的图像,那么现在可以让手负责抖,而让它负责稳了。
![13df91660db87ab50a5f38fd430428c3.gif](https://i-blog.csdnimg.cn/blog_migrate/296212c02b7e023f6b391e1019243b25.gif)
目前作者还没有公布源代码,不过他们的项目主页上已经放上了GitHub的按钮,看来他们已经准备开源了。你是不是迫不及待想试一下呢?
项目地址:
https://nerfies.github.io/
论文地址:
https://arxiv.org/abs/2011.12948
—完—
量子位年度AI峰会「MEET 2021智能未来大会」定档12.16!李开复博士、尹浩院士、清华唐杰教授,以及来自小米、美团、爱奇艺、华为、小冰、亚信、浪潮、容联、澎思、地平线、G7等知名AI企业的嘉宾将出席并带来主题演讲。
欢迎关注人工智能、前沿科技的朋友报名参会,共探新形势下智能产业发展之路。点击链接锁定席位:
https://www.huodongxing.com/event/2571160736900