float类型精确计算方法

Float类型变量的值本身不是一个精确地值。

当给float变量赋值后,取到的不是一个准确值。如下:

Float fTmpVariable = 99.9;

他的值可能是99.8903或者99.90023之类的值,故float变量之间进行直接比较是没有意义的。

所以如果我们要取得精确地变量的值或者需要利用变量精确计算的时候就需要想一个办法。

方法一:将小数转化为整数进行计算,分别取出整数部分和小数部分,利用组合后的数据进行计算

float fTmpVariable1 = 9999.9
float fTmpVariable2 = 9999.98;
unsigned long ulConvert;
unsigned long ulInteger;
unsigned char ucDecimal;
ulConvert = fTmpVariable1 * 10;

/* 整数部分取得 */
ulInteger = ulConvert / 10; 
/* 小数部分取得 */
unsigned char ucDecimal = ulConvert % 10;
/* 数据整合 */
ulTmpVariable1 = ulInteger * 10 + ucDecimal;

ulConvert = fTmpVariable2 * 100;
/* 整数部分取得 */
ulInteger = ulConvert / 100; 
/* 小数部分取得保留一位有效小数 */
ucDecimal = ulConvert / 10 % 10;
/* 数据整合 */
unsigned long ulTmpVariable2 = ulInteger * 10 + ucDecimal;

方法二:将数据转换为字符进行运算

char array[10] = {0};
float fTmpVariable = 999.875;

unsigned long ulTmpVariable;
/* 转换为整数 */
ulTmpVariable = fTmpVariable * 1000;
/* 转换到数组中存储 */
sprintf(array,"lld%",ulTmpVariable );

/* 取得小数位 */
char arrlen = strlen(array);
/* 分别取得对应的小数 */
char ucDecimal1 = array[arrlen - 3];
char ucDecimal2 = array[arrlen - 2];
char ucDecimal3 = array[arrlen - 1];

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值