〇、论文摘要
Physics-based differentiable rendering is a key ingredient for integrating forward rendering into probabilistic inference and machine learning pipelines. As a state-of-the-art formulation for differentiable rendering, differential path integrals have enabled the development of efficient Monte Carlo estimators for both interior and boundary integrals. Unfortunately, this formulation has been designed mostly for explicit geometries like polygonal meshes. In this paper, we generalize the theory of differential path integrals to support implicit geometries like level sets and signeddistance functions (SDFs). In addition, we introduce new Monte Carlo estimators for efficiently sampling discontinuity boundaries that are also implicitly specified. We demonstrate the effectiveness of our theory and algorithms using several differentiable-rendering and inverse-rendering examples.
先po一段摘要,中文大意是:(物理基础的)可微渲染中,微分路径积分是最新的先进技术,但主要用于显式几何体。本文将其扩展到隐式几何体,并引入新蒙特卡罗估计器。
从中我们可以提取出几个关键词:
- 可微渲染
- 微分路径积分
- 微分路径积分在隐式几何体上的扩展
- 蒙特卡罗估计器
那接下来我们先来对前两个词进行简单的引入:
一、可微渲染和微分路径积分
a. 可微渲染
可微渲染,简单来说就是一种可以计算图像中每个像素对输入参数变化的敏感度的渲染方法。更通俗地说,就是如果场景内的某些结构参数(如光源、材质、相机位置等等)发生了变化,这会引起输出的图像
也有对应的变化。那可微渲染就是在图像
中像素变化过程相对于参数
可微的前提下,找到一个方式去求它的导数。
实际上衡量图像像素变化的可微性质,我们只需要得到在摄像机某像素接收到的光强关于参数是如何变化的即可。也就是说,我们的目标转化成了:如何计算光照强度(Intensity)关于参数
的导数?
b. 路径积分(Path Integral)
Eric Veach在Robust Monte Carlo Methods for Light Transport Simulation中,利用三点式渲染方程,将积分变量从立体角变为面积,结合辐射传感器响应积分,得到了一个非常简短的路径积分公式:
其中:
积分区域满足:指代所有可能的不超过N段的光线传播路径构成的空间,
指代所有物体表面的集合,元素
表示从物体表面
上弹射
次所形成的光线路径。
积分变量满足如下公式(是曲面表面的面积测度):
被积函数满足:(具体推导过程详见原文)
其中:是传感器响应函数,并且:
其中:被称为geometric term,其含义包含了可见性函数
与积分变量变换的Jacobi量,并且有:
综上,路径积分这个积分公式是本论文的最基本的公式,其优点在于直接表示成了高维积分的结果,后续一系列求解思路均由该公式决定。
上文中提到,可微渲染的目标为如何计算光照强度(Intensity)关于参数的导数,在路径积分的加持下,我们只需要考虑对路径积分求导即可。(为了简化表述,在本文中只计算参数
时的导数,其余情况通过简单的参数变换即可实现)
c. 重新参数化(Reparameterization)
对路径积分求导并不是那么容易。为了简化求导的过程,我们需要减少和参数相关的量出现,因此第一步是进行对物体表面重新参数化,尽可能让物体所有的表面和参数无关。
但是往往事与愿违,很多时候参数会直接控制场景中物体的形状。我们先使用简单的显式曲面举个例子,假如场景物体中有一个球,球的显式表示如下:
而待求导的参数是球的半径
,此时球的表面一定是随着参数变化而变化的。在这种情况下,我们希望能“让球的大小和参数(半径)无关”,最简单的方案是什么呢?
为了解决这个问题,Cheng Zhang等人在Path-space differentiable rendering.中使用了一个简单粗暴的方案:在场景表面和参数随着参数变化而变化时,先直接固定场景为其最初始的形态,然后再找到一个可微一一映射,将初始场景中的点一一映射至实际场景中的点。
通过这种方式我们就把随参数变化的场景转化成了两部分:
- 一个固定的场景
- 固定场景和原始场景之间的可微映射
还是使用上述例子来举例,我们希望让球的大小和参数无关,我们令
并且将
和
间建立双射
,该例子下映射可以如下表示:
我们在上述过程中改变了我们的参数表示方式,我们先定义一些量:
在原先的表示方式下,我们使用了指代所有物体表面的集合,
指代所有可能的光线传播路径构成的空间(但是
和
都可能是随参数变化而变化的)。
- 使用参考表面(Reference surface)
来表示参数化后所有物体表面的集合(物体表面
和参数
无关的)。
- 相似的,我们也使用
来定义在参考表面
上所有可能的光线传播路径构成的空间,我们称之为物质路径空间(Material path space),其中的元素由
表示。
- 我们接下来按照论文中的表述,使用
代表待求导的参数
在这种表示下,我们原先的路径积分可以表示为如下形式:
由于积分变量发生了变化,因此需要乘上对应的Jacobi量:
在这种形式下就可以更方便地进行求导了。
d. 微分路径积分(Differential Path Integral)
接下来我们直接对参数进行求导:
论文中直接引用了Path-space differentiable rendering.中的结果:
其中有一些需要解释的元素:
- 这两项该如何理解,又该怎么算?
- 这个形式可以类比一维的“含参积分求导公式”在二维上的拓展,但是第二项看起来有点复杂。
- 第一项称为内部项,是在路径空间内部进行积分,可以直接仿照ray tracing蒙特卡洛方法进行计算(采样方便)
- 第二项称为边缘项,是在路径空间的边界上进行积分,积分区域比较难以采样,因此这一项的求解是问题的关键。
是什么?
- 令
表示一段在参考表面
上反射N次的光路,
是其中第
项
- 在公式中,
满足:从
看过去,
和
之间有一个物体,并且
刚好在物体轮廓上,没有被挡住。论文中称之为:相对
的可见性边界,记作
。
- 这个称呼也好理解,对于点
来说,可见性函数
是一个非零即一的函数,从
看过去,当
为1则代表了自变量在正面,是能被看见的;否则就是不能被看见的。
- 当可见性函数
在0和1之间发生跳跃时,代表了
在
的视线里“被遮挡物挡住”或者“脱离被遮挡状态”。
- 这个称呼也好理解,对于点
- 令
又该如何理解?
- Path-space differentiable rendering.书中给出的解释如下:"... captures the change rate
(with respect to θ) of pK along the normal direction of the discontinuity curve or surface
(under reference configurations)." - 通俗地说:就是当参数移动的时候,可见性边界上的
处移动的速率。
- 实际上速率计算的方式是:
关于参数的导数在“
视线中遮挡物轮廓曲线在被遮挡表面上的投影曲线的法线”方向的分量。因此:
代表
关于参数的导数
满足
且
代表了
所在曲面的法线
代表了
所在曲面上没有被遮挡的区域的边界的切线方向
的方向指向被遮挡的区域
- Path-space differentiable rendering.书中给出的解释如下:"... captures the change rate
又应该如何求解?
- 此处论文更换了记号,将
写成
- 其中
并且新增了一个切点
及其视线方向
(如图)。
- 将光路分为Source,Boundary,Detector三段(分别对应上图黄色,红色,蓝色段)。并且将待积函数
按照这三段的贡献分解为
- 因此,我们得到以下公式:
- 此处论文更换了记号,将
- 为什么如此分解?为什么积分能如此转化?这里给出笔者的理解:
- 首先,在所有可能的光线中,光线恰好在可见性边界上的概率非常小(简单讨论起见,我们令概率为
,实际上在场景非奇异时
,下面使用小量分析)。因此在光路进行多次反弹最终射向传感器的过程中:
- 有一条光线在路径空间边缘的概率为
,我将其视为一阶小量。
- 有n条光线在路径空间边缘的概率为
,是更小的高阶小量。
- 有一条光线在路径空间边缘的概率为
- 因此在求解边界项时,我们只保留“光路中有一条光线在路径空间边缘”的情况,舍弃高阶小量,这个舍弃方案是我们使用新表示方法的基础,也决定了积分函数分解的方式。
- 在这个假设下,只有路径空间边缘处的光线的两端
受到了限制,其他反射点均可使用蒙特卡洛算法采样。因此我们通过分配积分次序,将S,D区域的光线提前进行积分,最后留下相互制约的
点在最后进行积分。这就是为什么积分能如此转化。
- 首先,在所有可能的光线中,光线恰好在可见性边界上的概率非常小(简单讨论起见,我们令概率为
二、微分路径积分在隐式几何体上的扩展
上面介绍了重新参数化和微分路径积分的求解。但是在隐式几何体上,仍然有两座“大山”:
- 由于显式几何体的优势,重新参数化在显式几何体上可以简单地进行,但是隐式几何体的重新参数化并不是那么简单;
- 对于隐式几何体,在微分路径积分的内部项中,对
的积分难以求解。
因此本章中将着重解决这两个问题:
a. 隐式几何体的重新参数化
具体来说,我们研究的对象是对于标量函数簇的零点集。问题在于,已知
如何建立起一个一一映射,并且保证其关于参数
在
处可微?(不失一般性地简化命题)
论文作者在这里非常幽默地说:
不幸的是,与使用显式几何不同,很难定义一对一的映射(如果不是不可能),将参考面B变换为M(𝜋)。因此我们使用了替代方案:定义了图3中所示的映射,该映射仅在𝜋=0处一一映射
作者直接从向外作切线,并求切线与
的第一个交点,交点:
即为映射的结果,其中为单位法向;
即为
方向上,从p到和M(𝜋)的第一个交点间的距离。可以看出:映射
确实在𝜋=0处是一一映射(毕竟是恒等变换)。
接下来,在已知了重新参数化的方式后还需要干什么?当然是求积分咯,我们在这里就先梳理一下我们还需要了解哪些量,并求出它。
- 内部项中,Jacobi量代入可以得到内部项为:
因此我们需要得到Jacobi量的导数形式,而论文中给出了如下计算方式:
- 当我们研究p点在遮挡物上的情形时,如果能求出p点在法向方向运动的速度,那我们就能方便地算出边界项的值。因此我们令p点的运动速度为:
即为所求,其中:
b. 隐式几何体的“边界项”积分求解:
事先说明几点,在蒙特卡洛采样过程中有以下几种采样的可能方式(case 2&3的采样方式将在第三章中介绍):
- (case 1)对于规则的几何体及其衍生采样方式(球面/半球/圆周等):容易且快速。
- (case 2)在全局表面上的采样:需要设计算法,总体相对快速。
- (case 3)对任意视角上,场景中所有物体的轮廓进行采样:同样需要设计算法,耗时较长。
这三种采样方式中我们可以看出,在采样方式中case 3的采样代价是最大的,case 2次之,case 1 代价最小。如果我们能把代价较大的采样方式变为代价较小的采样方式,我们就能加快算法的效率。这是我们接下来的主要思想。
接下来回顾一下边界项积分的公式:
我们将中间的被积分式简写成,则我们可以将积分简写为如下形式:
这代表了:对于积分中的每次采样,首先在所有表面上采样,然后再在
视角中的场景轮廓的被遮挡面处采样
。很显然,这两次采样分别使用了case 2&3的采样方式,计算此积分的代价是巨大的。
因此我们需要改变积分(采样)方式为相对快速的(case 1/2)的形式 。接下来三个步骤会彻底将对,
的采样变为对
,
的采样。
步骤一
由于对采样和对
采样是等价的,区别仅仅在于
和
之间差了一个倍数关系,这个倍数关系可以通过简单的方式求出(此处不做细致描述)
因此我们将“轮廓上对采样”变为“轮廓上对
采样”。在此步骤后,积分转化为如下形式:
其中这代表了:对于积分中的每次采样,首先在所有表面上采样,然后再在
视角中的场景轮廓的遮挡面处(不是被遮挡面处)采样
。
步骤二
由于和
之间相互约束,我们可以在固定
,在它视角的轮廓上对
采样;那同样也可以固定
,在所有满足
的
上进行采样。
我们记:
因此我们将“先采样后采样
”变为“先采样
后采样
”。在此步骤后,积分转化为如下形式:
具体推导过程详见论文。简单来说就,是将处的切空间分为
及其补空间,并且将补空间上的自由度分配至
上,这样我们就可以在全体表面上采样
了,这是容易采样的。这个积分形式代表了:对于积分中的每次采样,首先在所有表面上采样
,然后再在
的切空间与表面的交集处采样
。
步骤三
由于和
是一一对应的,同样我们也可以将
的微分转化为
的形式。这种转化方式的优点是
的采样可以视为在单位圆周(0到
)上采样,是非常方便运用蒙特卡洛方法的。
因此我们将“上对
进行采样”变为“单位圆周上对
进行采样”。在此步骤后,积分转化为如下形式:
这个积分形式代表了:对于积分中的每次采样,首先在所有表面上采样,然后再单位圆周上采样
。
这就是我们需要求解的积分,接下来进行蒙特卡洛算法的求解。
三、蒙特卡罗估计器
总的来说,我们刚刚将积分边界项转化为了如下两种形式,分别称之为初边界积分和次边界积分。特别的,我们将在下文中将(case 3)视线轮廓上的采样方式称为初端采样,将(case 2)全局采样的采样方式称为次端采样。
其中:
- 初边界积分的积分方式决定了,其需要进行初端采样和次端采样(对应case 2&3)
- 次边界积分仅需进行单位圆周采样和次端采样的采样(对应case 1&2)——由于主端采样的代价较大,因此相比于初边界积分,次边界积分的代价会更小。
但是,从初边界积分推导到次边界积分的过程中,隐含了一个条件:“摄像机端 的取值是在参考表面上自由取值的”。但是我们在具体解积分时,同样需要讨论一个问题:
会不会是摄像机?
- 如果
是摄像机,那么
的取值是固定的,这种情形下我们无法使用次边界积分,只能进行初边界积分。因此我们需要给出初端采样(case 3)和次端采样(case 2)的方案来计算初边界积分。
- 如果
不是摄像机,那么
的取值是自由的,这种情形下我们就可以使用次边界积分。此处同样需要次端采样(case 2)的方案来进行计算初边界积分。
因此接下来我们分别对初端采样/次端采样的方案进行详细阐述:
a. 初端采样
初端采样指的是对给定视角上,场景中所有物体的轮廓进行采样。实际上问题的本质在于,我们需要找到合适的方式来刻画“轮廓集合”。
那我们如何将轮廓刻画成一个方便采样的形式呢?第一步当然是要给出
的清晰定义。论文中给出了如下的解释:如果曲面上的点到相机的方向和该点的法向是垂直的,那么在这个点就在“轮廓”上。数学表述即为:
记为坐标点到相机的向量,那么记:
以上定义中,就是我们想要的“轮廓”。为了方便想象我们可以考虑二维情形,在二维情形下,轮廓即为
,如下图:
接下来,我们需要解决如何对已有的定义进行采样。我们不妨假设场景中的曲面外有一个AABB包围盒,如下图,这个包围盒内部有
两个曲面,我们需要采样的轮廓即为图中玫红色的交线:
但是问题在于:是一个表达式未知的空间曲线,难以采样。那要怎么办呢?由于空间曲线实际上可以投影到包围盒的某个面上,因此我们将
投影到长方形面
上(图中包围盒右侧面)。
但是投影后仍然无法采样,于是我们再将这个投影曲线投至线段上,也即图中红线处。因此,当我们采样时,可以先在红色线段
上采样一点
,并向垂直方向不断步进,步进过程中将点
向法向延伸并与曲面
求交,直到得到两曲面交点即为所采样点。具体算法如下图:
于此同时,我们也要考虑一个问题:如果将投影到长方形面
上时,投影曲线和空间点并不是一一对应的,投影曲线发生了自交,那么最终结果就会导致采样点不唯一。为了杜绝这样的情况,我们可以让AABB包围盒尽量的小,小到包围盒内的曲面足够的平坦,并假设在如此小的包围盒内投影曲线和空间点一一对应即可。
如下图,我们可以直接将空间分成足够小的轴向包围盒,然后应用仿射算术计算包围盒内的函数值是否包含其零点,就可以得到足够小的AABB包围盒。
总的来说,实际采样过程中的采样方式如下:
- 先构造大包围盒,并且将大包围盒逐步细分,使用仿射算术排除与曲面
无交的包围盒,反复细分排除,直至包围盒足够小,此时我们可以得到上图中右侧所表示的“边缘包围盒集合”。
- 然后我们在“边缘包围盒集合”中,采样出若干个包围盒。
- 最后在其中利用Algorithm 1采样出轮廓上的点,将其作为采样的最终结果。
b. 次端采样
次端采样指的是对场景中所有物体的表面进行采样。但是隐式几何体表面很难直接进行采样,因此,我们同样需要找一些替代的参数域作为采样区域。
具体来说,如果我们求如下积分:
论文中采取了一种独特的方法。假设是隐式几何体的包围盒的某个面,那么从
上的点
出发向
投射出射线:
我们记从上的点
发出的射线和
的第一个交点的集合为
,满足:
同理,我们记代表点
发出的射线和
的第n个交点(如果有的话)。记
的最大值为
。那么:
其中
这就是次端采样的方案。
c. 下次事件评估
当我们求解次端采样时,如下式:
当我们确定了后,可以直接在圆周上取点。但是可能和场景无交,减慢求解效率。因此,可以更换采样方法:直接计算切平面和场景之间的交线,从交线处采样即可。
四、实验效果:
文中进行了可微渲染的正向估计和逆向渲染两类实验,都给出了很好的结果。(使用了有限差分方法作为对比方法)
正向估计过程中,分别使用了单向和双向估计器,计算了以下场景下对物体进行平移和旋转作用的微分结果:
并在难以采样的光源下,验证了在该算法中,双向估计器的结果优于单向估计器的结论:
逆向渲染中,该方法(尤其是双向估计器)所得出的Loss的趋零性质也显著优于DiffSDF方法,文中使用了以下四个逆向渲染的模型,并都给出了不错的效果。