row major,内存上是一行行的访问,第一行走完再走下一行。
column major反之。
-----------------------------------------------------------------------------------------------------------------
Shader端
floatNxN这种的RowMajor还是column major总是容易搞混,所以写一些测试来帮助记忆一下。
hlsl的floatnn的声明方式是float[row][column]这种。
存储在register里的方式可以通过几个测试看一下:
float4 localPos;
float4x3 boneTransform;
mul(localPos, boneTransform);
这个编译出来是4个整齐的dot,已经可以看出存储方式是一列为一个register了(也就是column major),那么在填充matrix的时候也是一个列列的读取内存的。
另外在做index取数测试:
float4x4 view;
float2 uv=view[3].x;
float2 uv=view[3].y;
意义分别是去2行的第1个和第2个数来赋值。
编译出来的shader asm是:
add oT0.xy, v3, c91.wadd oT0.xy, v3, c92.w
同样验证了一下。
-----------------------------------------------------------------------------------------------------------------
CPP端
这是D3DMatrix的数据结构:
typedef struct _D3DMATRIX {
union {
struct {
float _11, _12, _13, _14;
float _21, _22, _23, _24;
float _31, _32, _33, _34;
float _41, _42, _43, _44;
};
float m[4][4];
};
} D3DMATRIX;
从中可以看出结构上是row major的,出入shader的时候,将会一行变成一列。使用D3DXMatrixTranslation的时候,translation会被放在最后一行里,也就是如果不做transpose的话,在shader里应该是mul(matrix, vector)才是对的。