VB/VBA的浮点数结构

 前言

在前篇《VB的整数,你真的了解?》中,向读者介绍整数时提到,计算机里实际上只有整数一种类型。那浮点数是如何表示的呢?浮点数的使用性能是不是比真正的整数要差呢?VB在应用过程中要注意哪些事项呢?本篇将详细分析,来看看吧。

一、浅谈浮点数

人类在进化过程中,发明了很多种度量单位,来量化我们所处的世界。但在客观世界里,没有那么多刚刚好的事。比如银行存款余额,时间,导弹射程,战舰位置等,人类也不可能无限细分度量单位。好比在计算机世界里,我们不能给每个内存单元(字节)都取一个名字,只能给有意义的内存冠名(变量)。

这时浮点数就显得异常重要了,代表着人类对客观世界的把控程度。这种把控充满了主观色彩,可以用”在乎”一词来形容浮点数对人的意义。首先,在不同背景下,需要不同的精度。比如我们很少在意金钱数据角分之后的数据,但是在高能物理界可能需要小数点后N个数位,否则差之毫厘失之千里。其次,精度的转换又常常在不经意间发生。比如朋友来了有好酒,我们出手阔绰,毫不计较。但敌人来了有猎枪,一个子儿也不会多给。

虽然,计算机只认整数,但是我们人更多地是认小数(也即浮点数或实数)的,因为小数才有现实意义。超算和比特币矿机,想必大家有所耳闻,他们都偏重计算,讲究的是算力。如果说比特币矿机有点不务正业,那超算是正儿八经的为科学研究服务吧。很多高精尖领域的研究,都离不开超算。但是衡量超算能力最核心的指标之一,就是浮点运算能力。

最近币市火爆,笔者也有谈到比特币,有朋友问矿机为何要装显卡?其实,就跟浮点数运算有关啦。我们知道显卡专注于提升图像图形的处理能力,而图形的处理就涉及到精度的问题,也就是浮点数的处理喽。而比特币挖矿在非对称加解密、哈希等计算中要涉及浮点数的,所以给矿机加显卡,是可以提高算力的。

二、VB的浮点数结构

1、Single类型

占4字节,6位有效小数。由1Bit符号位、8Bits指数位和23Bits有效数位三部分组成。其结构如下:

那Single又是如何转换为整数的呢?按照IEEE(美国电气和电子工程师学会)的标准,按照以下公式进行转换:

l= (-1)^s * (1 + f) * 2^(e - 127)

其中:l为十进制整数,s为第32bit位的符号(0为正数,1为负数),f为有效小数,e为幂指数。

看上去很复杂,其实在VB里非常简单,将Single变量的内存数据,直接拷贝到Long类型变量的内存里,就完成了转换。

2、Double类型

占8字节,15位有效小数。由1Bit符号位、11Bits指数位和52Bits有效数位三部分组成,结构与Single类似。与十进制转换公式为:l= (-1)^s * (1 + f) * 2^(e - 1023)。

在VB中,需要借助Currency类型,来实现转换。

3、Date类型

占8字节,是VB的日期格式。DATE在WTYPES.H中定义为"typedef double DATE;",所以Date就是Double类型。值得一提的是,其整数部分为年月日,小数部分为时分秒,可以手工实现高精度时间哦。

三、VB浮点数使用过程中要注意哪些?

按浮点数的结构,我们可知浮点数在计算机中,并不等于数学意义上的实数,而是存在人为舍位的近似值。因此时时刻刻牢记精度问题,是正确使用浮点数的前提。

1、浮点数与10进制整数相互转换时,存在精度问题。

2、浮点数谨慎用于相等判断。

3、VB对小数常数、除法结果等默认为Double类型,在计算中只要有小数,都会做Double类型转换,会降低代码性能。在X86的32位机器下,CPU处理Single的速度更快,若精度允许,应尽量使用该类型,否则应统一使用Double类型。

4、VB中若需要更高精度的浮点数,则需借助Decimal类型,该类型支持28位有效小数位,但性能也更低。

欢迎关注BtOfficer及各大自媒体平台同名账号,笔者研发的安全生产框架,专为非IT人士服务,集成海量实用工具,更提供功能齐全的编程接口,重要的是可完美兼容VB家族语言,是非IT潜心于业务生产的利器。关注“BtOfficer”公众号,即可获取深入浅出的开发帮助,系统的底层知识,答疑等福利,还有行业情报,产品经销资格等您来拿哦。

 

  • 3
    点赞
  • 2
    收藏
  • 打赏
    打赏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
©️2022 CSDN 皮肤主题:大白 设计师:CSDN官方博客 返回首页
评论 1

打赏作者

BtOfficer

你的鼓励将是我创作的最大动力

¥2 ¥4 ¥6 ¥10 ¥20
输入1-500的整数
余额支付 (余额:-- )
扫码支付
扫码支付:¥2
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、C币套餐、付费专栏及课程。

余额充值