CS学习(六)——浮点数plus

舍入:

十进制数舍入到偶数位。

举例:舍入到百分位。

eg.

1.2349999 ——> 1.23(四舍五入)

1.2350001 ——> 1.24(同上)

1.2350000 ——> 1.24(刚好为一半即5,舍入到偶数位)

1.2450000 ——> 1.24(一半,舍入到偶数位)

二进制数舍入到偶数位。

注:

这里的偶数指舍入后的LSB(最低有效位)为0。

“中间数”指的是舍入位右边正好是100…B的形式。

举例:舍入到1/4(小数点后两位,即2^-2)

10.00011 ——> 10.00(<中间数)

10.00101 ——> 10.01(>中间数)

10.11100 ——> 11.00 (=中间数,舍入到偶数位)

10.10100 ——> 10.10 (=中间数,舍入到偶数位)

乘法:

结果:

符号位s = s1 ^ s2

尾数M = M1 * M2

阶码E = E1 + E2

修正:

若M >= 2,右移一位,并E = E + 1 

若E超出范围,溢出

将M舍入到frac的范围内。

加法:

(1)对阶,保证阶码相等,小阶向大阶对齐:

        将原来阶码小的数的尾数右移|△E|位,其阶码值加上|△E|,即每右移一次尾数要使阶码加1,则该浮点数的值不变(但精度变差了)。

(2)尾数进行加法运算。

(3)结果规格化并进行舍入处理:

        如果尾数不是规格化数,则需要进行规格化处理,并进行舍入。

(4)判断溢出。

转换:

double/float ——> int:

值向0舍入,对于无法表示或超出范围的值没有定义。

int ——> double:

能够保留精确值。

int ——> float:

数字不会溢出,但可能会舍入。

  • 1
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值