浮点数运算以及溢出问题

一、浮点数加减运算的步骤

  1. 对阶:小阶向大阶对齐,阶小的那个数尾数右移,对于IEEE754标准表示的浮点数来说,右移时要注意将隐含的一位1右移到小数部分
  2. 尾数加减:注意要先还原隐藏位
  3. 尾数规格化:直到将第一位1移到小数点左边
    • 右规:尾数右移一位,阶码加1;
    • 左规:尾数左移一位,阶码减1
  4. 尾数的舍入处理:在对阶和尾数右规时,可能会对尾数进行右移。一般将低位移出的位参与一些运算后再对结果进行舍入
  5. 溢出判断:在尾数规格化和尾数舍入时,可能会对结果的阶码执行加减运算。浮点数的溢出并不以尾数溢出来判断,而主要是看结果的指数是否发生了上溢,因此是由指数上溢来判断的
    • 两种溢出
      • 指数上溢:一个正指数超过了最大允许值:127(对应规格化数,移码11111110)或1023
      • 指数下溢(即绝对值过小时直接判为0):一个负指数超过了最小允许值:-149(对应非规格化小数,移码00000000+尾数000…01)或-1074
    • 可能导致溢出的情况:即所有涉及阶码运算的情况
      • 右规和尾数舍入:一个数值很大的尾数舍入时,可能因为末位+1而发生尾数溢出,此时就需要调整尾数和阶码(尾数右规、阶码+1)。若调整前或后阶码全为1,则直接置结果为指数上溢;否则正常
      • 左规(即会导致指数下溢):左规时阶码减小,故需判断是否发生指数下溢。判断规则就是看阶码是否为全0(这里有两种说法,一种是阶码全0就判断为下溢(IEEE规格化),一种是指数超过最小允许值-149(-126-23)才判断下溢(IEEE非规格化小数),如果没表示的话应该按照第一种全0说法)

二、关于上溢和下溢

请添加图片描述
请添加图片描述

注:上面第二张图并不是IEEE标准的表示范围,只是用来展示上溢和下溢说法的

二、关于浮点数溢出

袁书原话是:浮点数的溢出并不以尾数溢出来判断,尾数溢出可以通过右规操作得到纠正。运算结果是否溢出主要看结果的指数是否发生了上溢,因此是由指数上溢来判断的。

但我猜如果题目问到浮点数溢出,应该阶码上溢和阶码下溢都算。最没毛病的,就是题目明确给出是上溢还是下溢了。

三、相关题目

  1. 一道选择:
    在这里插入图片描述




    答案是D
  2. 其中一小问:f1(24)和f2(24)的返回值分别为33554431和33554432.0,为什么不相等?
    请添加图片描述




    答:当n=24时,f(24)=1 1111 1111 1111 1111 1111 1111 B,而float型数只有24位有效位,舍入后数值增大,所以f2(24)比f1(24)大1.
  • 6
    点赞
  • 23
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
在STM32中进行浮点数运算时,需要注意一些问题。首先,STM32使用的是32位的浮点数格式,即单精度浮点数。在进行浮点数运算时,可以使用浮点数类型(如float)进行计算。例如,可以将一个整数转换为浮点数进行运算,转换过程中不会丢失精度。另外,从浮点数转换为整数时,值会向零舍入。 然而,需要注意的是,浮点数运算可能存在舍入误差。由于浮点数的精度有限,可能会导致一些计算结果不准确。例如,在进行浮点数加法时,可能会丢失一些小数位。此外,浮点数乘法也可能存在一些特殊情况,如溢出或得到NaN(非数值)的结果。 在进行浮点数运算时,还需要注意浮点数的有效位数。在STM32中,单精度浮点数的有效位数约为6-9位。这意味着在进行浮点数计算时,结果的有效位数可能会受到限制。 总之,进行STM32浮点数运算时,需要注意舍入误差、有效位数以及可能出现的特殊情况。合理使用浮点数类型,并根据具体需求进行适当的精度控制,可以确保浮点数运算的准确性和可靠性。\[1\]\[2\]\[3\] #### 引用[.reference_title] - *1* *2* *3* [stm32中的浮点数](https://blog.csdn.net/qq_25355591/article/details/112396090)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insert_down1,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值