float(24bits,有效位数,不包括指数部分和符号位,下同)和double(53bits)类型,指的是浮点数在内存中存储精度。而在FPU中,却存在着三种运算精度:single precision(24bits),double precision(53bits),double extended precision(64bits)。FPU的默认精度是53bits的double precision。D3D的CreateDevice函数会将FPU的运算精度改成24bits,除非指定了D3DCREATE_FPU_PRESERVE参数。
除了运算精度之外,FPU的Control Word中还有一个叫做RC的字段,控制浮点转整型的转换方式,共有四种转换方式:
1. round to nearest(even) 取整后的差值最小,即四舍五入方式,如前后的差值相等则取向偶数,如3.5则取得偶数4,2.5则取得偶数2。这是FPU的默认取整方式。
2. round down 向负无穷大方向取整(ceil函数),如3.5取得3,-3.5取得-4
3. round up 向正无穷大方向取整(floor函数),如3.5取得4,-3.5取得-3
4. round toward zero(truncate) 向零的方向取整(浮点数转整数),如3.5取得3 ,-3.5取得-3
一个32位的整数,如果转成float型存储在内存中,就有可能导致误差,因为float只有24位有效位;而转成double型存储在内存中,则不会导致误差,但是当FPU的运算精度为single precision时,一旦通过FPU进行了运算,就有可能导致误差。64位的int在double precision时也有类似的问题存在,因此猜想64位CPU上FPU的默认运算精度应该是double extended precision才对。
在游戏中,由于考虑到D3D的性能,我们的浮点运算精度是24bits的。同时,Lua的内部没有区分整型和浮点型,而统一采用了double类型来存储数值。如果仅仅是存储32bits的整型数据,那么不会造成任何问题。但是,一旦需要进行运算,则支持的整数范围其实已经降到了-2^24至2^24。
接下来分析以下6种转换过程:
1. dword->int 直接复制内存
2. int->dword 直接复制内存
mov eax,dword ptr [dwNumber]
mov dword ptr [ebp-134h],eax
mov dword ptr [ebp-130h],0
fild qword ptr [ebp-134h]
fstp qword ptr [fNumber]
mov dword ptr [ebp-134h],eax
mov dword ptr [ebp-130h],0
fild qword ptr [ebp-134h]
fstp qword ptr [fNumber]
4. double->dword
fld qword ptr [fNumber]
fnstcw word ptr [ebp-12Eh] //*
movzx eax,word ptr [ebp-12Eh]
or eax,0C00h
mov dword ptr [ebp-134h],eax
fldcw word ptr [ebp-134h] //*这段将取整方式切换为向零取整
fistp qword ptr [ebp-13Ch]
fldcw word ptr [ebp-12Eh]
mov eax,dword ptr [ebp-13Ch]
mov dword ptr [dwNumber],eax
fnstcw word ptr [ebp-12Eh] //*
movzx eax,word ptr [ebp-12Eh]
or eax,0C00h
mov dword ptr [ebp-134h],eax
fldcw word ptr [ebp-134h] //*这段将取整方式切换为向零取整
fistp qword ptr [ebp-13Ch]
fldcw word ptr [ebp-12Eh]
mov eax,dword ptr [ebp-13Ch]
mov dword ptr [dwNumber],eax
5. int->double
fild dword ptr [nNumber]
fstp qword ptr [fNumber]
fstp qword ptr [fNumber]
6. double->int
fld qword ptr [fNumber]
call @ILT+215(__ftol2_sse) (4110DCh)
mov dword ptr [dwNumber],eax
call @ILT+215(__ftol2_sse) (4110DCh)
mov dword ptr [dwNumber],eax
fld指令从内存中将一个4字节(single)、8字节(double)、10字节(double extended)的浮点数压入FPU的浮点寄存器栈中
fstp指令从FPU的浮点寄存器栈中弹出一个浮点数,依据目标内存空间的大小转换成对应的精度,存入指定的内存地址
fild指令从内存中将一个2字节(word)、4字节(dword)或8字节(qword)带符号整数转换成一个浮点数并压入FPU的浮点寄存器栈
fistp指令从FPU的浮点寄存器栈中弹出一个浮点数,并转换成2字节(word)、4字节(dword)或8字节(qword)带符号整数存入指定的内存地址;在这个转换过程中,当浮点数过大时,如果control word中的invalid operation位被置0,则触发异常(Unhandled exception at 0x00411799 in test.exe: 0xC0000090: Floating-point invalid operation.),且不会向目标内存中存入任何数值;如果被置1(默认为1),则屏蔽异常,同时向目标内存中存入一个表示无限大的整数值。例如当目标内存为dword时,过大的负数会被转化成-2^31,而过大的整数会被转换成2^31。
__ftol2_sse函数在pentium机器上,会利用sse中的cvttsd2si指令,将一个double precsion的浮点数转换成一个带符号的32位整数,采用向零取整(truncate)方式。
由于浮点数操作指令中的整型数值都是带符号的,因此3号和4号转换中的无符号整数需要特殊处理。
如dword->int->double->dword的转换不会导致任何问题,而dword->double->int->dword的转换中double->int就会因为数值过大而触发异常,或者存入了无限大整数值而导致错误。
再来看看6种转换的效率:
1. dword->int 1(CPU周期,下同)
2. int->dword 1
4. double->dword 56
5. int->double 0
6. double->int 26
测试环境:迅驰1.7G,VS2005,RDSTC空转耗时234个周期,以上数字已经减去该时间
由于流水线存在并行计算,所以5号转换的时间没有表现出来,而且所有周期数并不是实际消耗的周期数,但是反应出的消耗大小关系应该是正确的。
运算速度的测试结果:
float(24) float(53) double(24) double(53)
+ 5 5 5 5
- 5 5 5 5
* 5 5 8 8
/ 17 31 17 31
sin 805 610 390 170
sqrt 720 510 290 80
+ 5 5 5 5
- 5 5 5 5
* 5 5 8 8
/ 17 31 17 31
sin 805 610 390 170
sqrt 720 510 290 80
double类型加上默认运算精度,是FPU运算速度最快的组合。至于为什么D3D要求float(24)的组合,可能和显卡的带宽有关系,毕竟会使得带宽占用减少一半,而这很可能是显卡的主要性能瓶颈。不知道咋测试显卡相关的性能指标,随便猜测一下罢了。
附:切换control word的代码
WORD temp;
__asm //打开invalid operation异常
{
fnstcw word ptr [temp]
mov ax,word ptr [temp]
and ax,0FCFEh
or ax,3Eh
and ax,0F3FEh
mov word ptr [temp],ax
fldcw word ptr [temp]
};
{
fnstcw word ptr [temp]
mov ax,word ptr [temp]
and ax,0FCFEh
or ax,3Eh
and ax,0F3FEh
mov word ptr [temp],ax
fldcw word ptr [temp]
};
__asm //切换到single precision运算精度
{
fnstcw word ptr [temp]
mov ax,word ptr [temp]
and ax,0FCFFh
or ax,3Fh
and ax,0F3FFh
mov word ptr [temp],ax
fldcw word ptr [temp]
};
{
fnstcw word ptr [temp]
mov ax,word ptr [temp]
and ax,0FCFFh
or ax,3Fh
and ax,0F3FFh
mov word ptr [temp],ax
fldcw word ptr [temp]
};