浮点运算计算机在线,浮点运算

浮点运算在计算机中用于处理实数,由于计算机只能存储整数,实数通过浮点表示会有误差且运算较慢。浮点运算涉及浮点数的存储格式,如单精度、双精度和扩展精度,以及浮点运算部件如FPU的工作原理。浮点运算在不同电脑上的精度和速度有差异,影响着计算结果和应用表现。浮点运算还包括数据类型、浮点运算指令系统等内容,如加载、存储、比较和算术运算等。
摘要由CSDN通过智能技术生成

浮点运算就是实数运算,因为计算机只能存储整数,所以实数都是约数,这样浮点运算是很慢的而且会有误差。

大多数机器都是32位的,也就是说32位都用来表示整数的话,那么对于无符号整数就是0 到 2^32-1,对于有符号的话就是-2^31 到 2^31-1。

中文名

浮点运算

外文名

floating point arithmetic性    质

实数运算

原    因

计算机只能存储整数

特    点

实数都是约数

浮点运算基本特征

编辑

语音

当我们用不同的电脑计算圆周率时,会发现一台电脑的计算较另一台来讲结果更加精确。或者我们在进行枪战游戏的时候,当一粒子弹击中墙壁时,墙上剥落下一块墙皮,同样的场面在一台电脑上的表现可能会非常的呆板、做作;而在另外一台电脑上就会非常生动形象,甚至与我们在现实中看到的所差无几。这都是浮点运算能力的差异导致的。

如果是实数的话,就不是这样了,机器有两种办法表示实数,一种是定点,就是小数点位置是固定的,一种是浮点,就是小数点位置不固定,计算方法也比较麻烦,通常会比整数运算代价大很多。

FPU->Floating Point Unit,浮点运算部件。

BCD->Binary Coded Decimal 压缩的二进制数,是用4个位来表示数字0~9,一个byte表示两个十进制数,比如正常二进制数1001111表示79,而BCD中用 0111 1001 来表示79。

科学计数法:a×10的n次幂的形式。将一个数字表示成 (a×10的n次幂的形式),其中1≤|a|<10,n表示整数,这种记数方法叫科学记数法。

浮点运算数据

编辑

语音

浮点运算使用三种不同的数据:

1)整数(Integer),又分为字,短整数(Short Integer)和长整数(longint)。

2)实数(Real)分单精度(Single Real)和双精度(Double Real)。

3)压缩的二十进制数(BCD)。

下面是其位数(bits)和能表示的大致范围和

Type Length Range

-----------------------------------------------

Word Integer 16 bit -32768 to 32767[1]

Short Integer 32 bit -2.14e9 to 2.14e9

Long Integer 64 bit -9.22e18 to 9.22e18

Single Real 32 bit 1.18e-38 to 3.40e38

Double Real 64 bit 2.23e-308 to 1.79e308

extended Real 80 bit 3.37e-4932 to 1.18e4932

Packed BCD 80 bit -1e18 to 1e18

双精度数和扩展精度数表示范围对一般应用来说已经足够大了!

浮点运算整数

以补码形式存储,正数的补码是其本身,负数补码是其绝对值的各位变反后加1,下面是实际存储的例子:

0024 var1 dw 24

FFFE var2 dw -2

000004D2 var3 dd 1234

FFFFFF85 var4 dd -123

0000000000002694var5 dq 9876

浮点运算BCD数

在FPU中用80位表示正好是浮点堆寄存器的宽度,在其格式如下存储:

Bit

79___72_71_____________

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值