在unity shader中计算切线空间光照的时候发现TBN矩阵在计算后并没有转置,这和在GLSL、线代中的计算方法相差一个转置的步骤,因为在GLSL中直接求得的TBN矩阵是切线空间到世界空间的变换,如果要在切线空间计算光照,则需要使用转置TBN矩阵来把向量从世界空间变换到切线空间。
后来查阅了下资料如下:
在CG中使用了行向量来存储TBN矩阵,可以参考这里:https://developer.download.nvidia.com/CgTutorial/cg_tutorial_chapter08.html
“
float3x3 rotation = float3x3(tangent,
binormal,
normal);
The rows of the constructed rotation matrix are the tangent, binormal, and normal, so the constructed matrix is the transpose of the matrix shown in Equation 8-1. ”
在GLSL中计算出的TBN矩阵是列存储的,参考:
https://learnopengl-cn.github.io/05%20Advanced%20Lighting/04%20Normal%20Mapping/
“我们直接使用TBN矩阵,这个矩阵可以把切线坐标空间的向量转换到世界坐标空间。因此我们把它传给片段着色器中,把通过采样得到的法线坐标左乘上TBN矩阵,转换到世界坐标空间中,这样所有法线和其他光照变量就在同一个坐标系中了。”
unity shader 入门精要90页也有类似的说法。
这也就是为什么在GLSL中获得TBN矩阵后,如果要在世界坐标系下计算可以直接左乘TBN矩阵,如果要在切线空间下计算则需要transpose(TBN)。同样的由于CG中是行向量来存储矩阵,所以直接就是转置后的TBN矩阵。
下方的代码也更能验证这个说法,使用tangent、bitangent和normal组成TBN矩阵后,矩阵右乘其中的某个基向量如tangent,其结果必然为(1,0,0), (这也代表了tangent向量从世界空间转换为切线空间中的表示),输出颜色为红色。