在Qt运算中,不同数据类型运算及强制转换的注意点

30 篇文章 4 订阅

一、问题描述

今天在计算一个值时,int i1 = (int)x*y/360,发现结果i1的值明显不对。

二、测试

代码1:

    float x=130;
    int y=16777215;

    int i1 = (int)x*y/360;//将x转为int型,然后与y相乘,也是int型,所以溢出
    int i1_2 = (int)y*x/360;//x仍旧为float,相乘结果为float,所以未溢出
    int i2 = (int)(x*y/360);//计算结果才会强制转int,中间仍旧为float,所以未溢出
    int i3 = (int)x/360*y;//float除int,结果为int
    int i4 = x*y/360;

    qDebug()<<i1;
    qDebug()<<i1_2;
    qDebug()<<i2;
    qDebug()<<i3;
    qDebug()<<i4;
    
    y=167;
    int i5 = (int)x*y/360;
    int i6 = (int)(x*y/360);
    int i7 = (int)x/360*y;
    int i8 = x*y/360;

    qDebug()<<i5;
    qDebug()<<i6;
    qDebug()<<i7;
    qDebug()<<i8;

结果1:

-5872025
6058438
6058438
0
6058438
60
60
0
60

代码2:

    int x=130;
    int y=16777215;

    int i1 = (int)x*y/360;
    int i1_2 = (int)y*x/360;
    int i2 = (int)(x*y/360);
    int i3 = (int)x/360*y;
    int i4 = x*y/360;

    qDebug()<<i1;
    qDebug()<<i1_2;
    qDebug()<<i2;
    qDebug()<<i3;
    qDebug()<<i4;

    y=167;
    int i5 = (int)x*y/360;
    int i6 = (int)(x*y/360);
    int i7 = (int)x/360*y;
    int i8 = x*y/360;

    qDebug()<<i5;
    qDebug()<<i6;
    qDebug()<<i7;
    qDebug()<<i8;

结果2:

-5872025
-5872025
-5872025
0
-5872025
60
60
0
60

代码3:

    qDebug()<<sizeof(double);
    qDebug()<<sizeof(float);
    qDebug()<<sizeof(int);

结果3:

8
4
4

代码4:

    int x2=130;
    float y1=167;
    int y2=167;

    float i1 = x1/y1;
    float i2 = x1/y2;
    float i3 = x2/y1;
    float i4 = x2/y2;

    qDebug()<<i1;
    qDebug()<<i2;
    qDebug()<<i3;
    qDebug()<<i4;

结果4:

0.778443
0.778443
0.778443
0

三、结论

  1. 强制类型转换的写法,比如(int),对就近的一个变量产生作用,比如(int)x,则会将原本为double的x转换为int型,如果包含(),则会在括号中计算出结果后将结果的数据类型转为指定数据类型。
  2. 优先级可以判定,括号>数据类型转换>加减乘除。
  3. 乘法运算中,intint=int,intfloat=float,intdouble=double,doubledouble=double,doublefloat=double,floatfloat=float。
  4. 除法运算中,只有上下两个数都是整型,结果才为整型。
  5. int的数据类型能表示的最大值为2147483647,而同为四字节的float的最大值为3.40282e+038。而130*16777215的结果已经大于int能表示的最大值,所以溢出了。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

鱼月半

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值