定点数中的比例因子

最新推荐文章于 2024-05-08 11:23:37 发布

晚安丶

最新推荐文章于 2024-05-08 11:23:37 发布

阅读量2k

点赞数 2

分类专栏：杂项

版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。

本文链接：https://blog.csdn.net/william_munch/article/details/82880073

版权

杂项专栏收录该内容

9 篇文章

订阅专栏

计算机采用定点数表示时，对于既有整数又有小数的原始数据，需要设定一个比例因子，数据按比例因子缩小成定点小数或扩大成定点整数再参加运算，结果输出时再按比例折算成实际值。

比例因子必须选择恰当。选择不当，将会影响运算精度，或者会使运算结果超出机器所能表示的数据范围，即出现溢出。

【例题】在定点小数机器中计算 11.01＋10.01 选择比例因子 $2^{-2}$ ＝0.01，可将两操作数变换为 0.1101＋0.1001 但 0.1101＋0.1001＝1.0110，运算结果不是纯小数，出现了机器数不能表示的数，即出现了正溢出。如果选择比例因子 $2^{-3}$ ＝0.001，可将两操作数变换为 0.01101＋0.01001 则运算结果 0.01101＋0.01001＝0.10110 为正常结果。将0.10110除以比例因子 $2^{-3}$ ，可得到正确结果 101.10

评论 1

被折叠的条评论为什么被折叠?

到【灌水乐园】发言

查看更多评论

添加红包

成就一亿技术人!

hope_wisdom

发出的红包

实付元

使用余额支付

点击重新获取

扫码支付

钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。