如报文中4个字节的报文,通过位移换算成整数,
换算单位-4,即小数点左移4位,直接除以10000,会到时精度丢失;
*10000/10000;可以保留至少四位精度,但是有溢出风险;
目前想到最优方案:
int PowerCnt = 9664;
float fval = (double)PowerCnt /10000;
如报文中4个字节的报文,通过位移换算成整数,
换算单位-4,即小数点左移4位,直接除以10000,会到时精度丢失;
*10000/10000;可以保留至少四位精度,但是有溢出风险;
目前想到最优方案:
int PowerCnt = 9664;
float fval = (double)PowerCnt /10000;