c++输出的值精确到小数点后5位_数据类型转换真实值与存储值

本文介绍了C++中定点数的概念,包括无符号和有符号整型与固定点数的对应关系,以及如何通过fixdt指定定点数的类型。讨论了定点数的存储与实际值之间的转化,特别是分辨率和偏移量的影响。还提到了定点数的四则运算规范,强调了运算中分辨率和数据范围的重要性,以及防止溢出的方法。
摘要由CSDN通过智能技术生成

定点数介绍

接下来的int8,uint8,int16,uint16,int32,uint32,int64,uint64,boolean,可以归结为一类:无小数点的固定点数。

对于这一类型的数据,由于没有小数点,所以计算机存储的数据值和实际现实中想表示的数据值也是相等的,也就是转化关系固定为相等。

fixdt(1,16),也属于无小数点的固定点数,其中第一位表示符号位,0表示无符号,1表示有符号,第二位表示数据的长度。比如fixdt(1,16)就相当于int16;fixdt(0,32)就相当于uint32。

fixdt(1,16,0)表示小数点就是在2进制数据的某一位。

比如下图所示,有一个16位无符号的二进制数,小数点在从右往左数的第四位,则该类型可以定义为fixdt(0,16,4)

c4b563391c36f624e133b4fda7d3c1fe.pngc4b563391c36f624e133b4fda7d3c1fe.png

对于fixdt(0,16,4)这类型的数据,假设计算机存储的

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值