搞懂LabVIEW-2:数值类型



笔记来自于大佬的课程LabVIEW程序设计入门到精通还是推荐看课为主,笔记作为复习资料。
我上传是为了看笔记方便,大家也可以把我的笔记作为看完视频后的一个笔记,免费分享给大家,每个人对知识的掌握范围不同,大家如果 只看笔记,可能有些概念不懂,建议大家去自学一些不清楚的概念。

3.1数值类型

数值类型包括整型浮点型。浮点型也就是浮点数,用于表示十进制实数。整型又分为有符号整型和无符号整型,有符号整型可以表示正整数和负整数,无符号整型只能表示正整数。默认情况下:数值控件数据类型双精度浮点数(DBL),而程序框图创建的数值常量的默认是32位有符号长整型
在这里插入图片描述

3.1.1整型数

整型数就是整数,有符号整型,又分为正整数和负整数。整数就是以其二进制补码的形式存储的,最高位是符号位,0正1负。正整数的补码为其本身。负整数的补码需要计算:将负整数的绝对值对应的二进制数按位取反(反码),再加二进制的1。
![[Pasted image 20241008131620.png|250]]![[Pasted image 20241008131639.png|200]]

怎么让数值显示控件输出00000100而不是100?:设置输入控件和输出显示控件I8的数据格式。显示出8个零:右键显示格式使用最小宽域:设置8,左侧填充0

3.1.2浮点数

浮点数用于表示十进制实数,如3.1415926。浮点数又分为三类:单精度浮点数(32)、双精度浮点数(64)、扩展精度浮点数(128)。浮点数在内存的存储格式与整型数完全不同,IEEE 745标准定义了符号位三部分内容存储:符号位,指数位,有效位。三部分内容占用的存储位数根据不同的浮点数类型不同。
在这里插入图片描述
这就是浮点误差,因为一些十进制数是不能完全转化为二进制数的,因此就会出现浮点数误差,所以,结果以浮点数进行相等判断是不好的。大小的计算可以忽略不记,但是逻辑上的相等对比是不可以忽略的。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值