row major,内存上是一行行的访问,第一行走完再走下一行。
column major反之。
-----------------------------------------------------------------------------------------------------------------
Shader端
floatNxN这种的RowMajor还是column major总是容易搞混,所以写一些测试来帮助记忆一下。
hlsl的floatnn的声明方式是float[row][column]这种。
存储在register里的方式可以通过几个测试看一下:
float4 localPos; float4x3 boneTransform; mul(localPos, boneTransform);
这个编译出来是4个整齐的dot,已经可以看出存储方式是一列为一个register了(也就是column major),那么在填充matrix的时候也是一个列列的读取内存的。
另外在做index取数测试:
float4x4 view; float2 uv=view[3].x; float2 uv=view[3].y;意义分别是去2行的第1个和第2个数来赋值。
编译出来的shader asm是:
add oT0.xy, v3, c91.wadd oT0.xy, v3, c92.w
同样验证了一下。
-----------------------------------------------------------------------------------------------------------------
CPP端
这是D3DMatrix的数据结构:
typedef struct _D3DMATRIX { union { struct { float _11, _12, _13, _14; float _21, _22, _23, _24; float _31, _32, _33, _34; float _41, _42, _43, _44; }; float m[4][4]; }; } D3DMATRIX; 从中可以看出结构上是row major的,出入shader的时候,将会一行变成一列。使用D3DXMatrixTranslation的时候,translation会被放在最后一行里,也就是如果不做transpose的话,在shader里应该是mul(matrix, vector)才是对的。