D-nerf针对于nerf有什么改动,以及对Ψt和Ψx这两者主要的步骤讲解

首先先看一下这个图

读完我这篇文章你应该会对d-nerf有更深刻了解,不过我个人认为,再读之前应该去先读一遍d-nerf的原文,这样会更好理解一点。至于为什么这篇文就这一个图,因为我感觉这一个图完全就可以描述这篇文章的主要内容了。我感觉我讲解的很通俗了,如果有什么疑问可以评论讨论一下。

这个图很其实可以完全说明了nerf和D-nerf的不同,d-nerf和nerf有什么不同?其实主要就是一个嘛Dynamic(动态),它可以渲染出来在不同时刻(t)这个物体是什么样子的,而不是nerf那样没有时间维度,其实在nerf中拍照的时刻相同么?其实大概率是不同的对吧,即使在不同位置放置很多相机,去进行同时拍摄,这个时间也不能说是完全相同的吧,只不过nerf没有加入时间维度,认为我这个照片就是在一个时刻拍的,我也就按照片是同一时刻拍的进行处理的,并且它拍照的物体的姿态以及位置没有发生巨大的变化,所以nerf渲染出来的物体也就是静态的,在nerf中我只有角度的不同剩下的都相同,而在d-nerf中我多加了一个时间维度对吧,并且我对应的这个时间维度上的时刻对应的的物体姿态和位置是不是都不一样,所以其实可以这样去理解,d-nerf就是多加了一个维度时间t,并且这个时间t,对应于物体上有一个时刻t的姿态(记住这个概念),接下来,我们去看上面这张图片首先看第一个图片,它想要表达什么意思呢?它是不是就是我在t那个时刻我这个小挖掘机的姿态是图片中那样子的,并且我想在那个白色平面所在的那个角度内去进行渲染出来它,这个步骤是和nerf中一样的去每个像素点进行去射线,然后再每条线上选择采样点,选择采样点的时候那里面有一个粗网络一个细网络,怎么去使用粗网络给细网络选择采样点可以去看我另一个文章,详细介绍了它的代码的实现sample-pdf那个文章。接下来如果是在nerf中的话,那我们就开始去用mlp去进行对每个采样点进行预测它的rgb和“密度”,接下来就是通过那个渲染公式对每个像素点进行rgb渲染了对吧,但是这个d-nerf中它并不是,它所有t时刻下的物体的姿态不同,所以那中间就做了一个映射操作,把就是咱们刚才从每一条射线上的选择出来的采样点,去进行映射到最初的t=0时刻上的那个姿态上(上图中的第二个图),这一步也就是论文中Ψt做的事情,他是通过一个mlp进行预测∆x∆y∆z这个差值是不是就可以把咱们想渲染的那个姿态的那些采样点都可以映射到原始t=0的那个姿态上面对应的点,接下来就是和常规nerf一样去进行预测每一个采样点的rgb和“密度”。为什么可以这么做,都映射到第一个t=0时刻上的那个姿态上上面的点,因为这既然是一个物体不管它的姿态是怎样的不同,但是它对应位置的性质(这里的性质是指rgb和“密度”)是不是都是一样的,所以可以那样操作。

其实本质上是不是感觉还是像对一个静态的物体进行去进行渲染出不同视角的图片,为什么会有这种感觉呢,其实我自认为啊,第二个神经网络(Ψx)中这个神经网络中只有t=0时刻姿态的信息,为什么能渲染出来不同的姿态呢就是因为时间t这个参数在第一个网络中,把本应该是一个直线的射线给“扭曲”了,这个扭曲的射线也就对应着不同的姿态下的某个角度的像素的一条直直的射线,这也恰好就是前面咱们所提到的,d-nerf无非就是加了一个时间t对于不同姿态的映射,而这个映射就是通过射线的扭曲来实现,而射线的扭曲又是通过Ψt这个mlp这个网络进行自己去预测自己进行调整,多说几句,接下来不看也可以,在训练过程中给出一个时间t对应一个姿态图,时间是连续的,所以说不能每一个时刻的姿态图都给你,但是在训练完成后去进行渲染过程中,t是不是可以随意的去指定,那是因为mlp这个整体相当于是一个未知的公式f(x),它是可微分的并且是连续的,所以即使你用的仅仅是离散的的数据去进行训练,但是你应用的时候还是可以渲染任意时刻任意角度的图片。

再去补充一点,又想到了一点东西。根据我上面说的,其实在进行训练的时候,是不是第二个网络也是一直训练的是t=0时刻这个姿态(这个姿态指的是360无死角的)的信息呢?我也不敢说绝对了,我感觉其实就是不论哪个方位(这里说的方位也是360无死角的)的那个时刻的照片,到最终都是会映射到t=0这个姿态其实,说白了第一个网络(Ψt)就是对当前时刻的姿态照片映射到t=0时刻的姿态,第二个网络(Ψt)就是去训练t=0时刻这个姿态下物体的信息的,第二个网络中只有t=0这个时刻下物体的姿态信息。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值