定点数与浮点数

17 篇文章 16 订阅 ¥9.90 ¥99.00
本文介绍了定点数和浮点数的概念。定点数分为定点小数和定点整数,小数点位置固定,溢出可能导致运算错误。浮点数则小数点位置不固定,由阶码和尾数组成,其运算包括对阶、尾数运算和结果处理。浮点数运算比定点数复杂,但能表示更大范围和更高精度的数值。
摘要由CSDN通过智能技术生成

定点数:

定点数就是小数点位置固定不变的数。

通常约定:固定不变指小数点位置固定在数据最高位之前或最低位之后,前者是定点小数,后者是定点整数。

小数点不占位。

溢出:计算机在使用定点数进行运算时,运算结果超出了计算机所能表示的范围,从而导致运算结果出现错误,叫作溢出。

简单举例说明:

假设计算机空间可以存储一个三位数,小数点在最低位之后,表示一个三位整数,则它能表示的最大数位999,如果两个三位整数相加的结果要存储在这个计算机空间中(如:500+501=1001),这个计算结果超出了这个计算机空间所能表示的最大数,最高位的1会溢出,导致计算结果出现错误。

小数也是如此,假设一个三位数,小数点在最高位之前,表示一个三位小数,如果你要用它在表示0.1025,则最低位的5会溢出,会使计算结果精度降低。

浮点数:

浮点数是指小数点位置不固定的数,它既有整数部分,也有小数部分。通常浮点数由阶码/指数,尾数组成。表示方式如下:

M:尾数,其长

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

hello_world!

你的鼓励将是我创作的最大动力!

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值