定点数二进制小数除法计算( -0.3125 / 3 = -0.0625 )

在写代码的过程中遇到了定点数-0.3125除以3的计算,出现了点困惑,网上的资料查找不全面,看到这个例题分享给大家:

我需要计算的数据为4位整数,4位小数的定点量化格式, 参考上述例子,计算过程如下:

x = - 0000.0101(十进制中的-0.3125,保留符号位,手算除法中直接判断符号)

y = 0011.0000(十进制中的3)

z = x / y = - 0000.0001(十进制中的-0.0625)

在以下计算中忽略符号位,仅将绝对值进行比较,即 z 为负数,x = 0000.0101, y = 0011.0000。

<1>:x < y , z的整数部分为0000,且 z < 0 , z = - 0000.□□□□

<2>:y1 = y / 2 = 0001.1000 ,x < y1, z = - 0000.0□□□

<3>:y2 = y1 / 2 = 0000.1100 ,x < y2, z = - 0000.00□□

<4>:y3 = y2 / 2 = 0000.0110 ,x < y3, z = - 0000.000□

<5>:y4 = y3 / 2 = 0000.0011 ,x > y4, z = - 0000.0001

         r = x - y4 = 0000.0010

由于计算中只需得到小数点后第四位结果,计算到此结束,最终答案为 z = - 0000.0001,也就是十进制中的-0.0625,如果计算精度不同,可以继续使用余数r向下计算。

小菜学习,若有错误请各位大佬指正

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值