关闭

IEEE 754 round-to-nearest-even

165人阅读 评论(0) 收藏 举报
分类:

IEEE 754 

二进制的向偶舍入,舍入的值保证最靠近原浮点数值,如果舍入为中间值,即舍还是入距离相等,那么按其最末尾一位是奇数,则入,如果为偶数,则舍

下面例子说明:


xxx.yyyyy10000

x为实数任意值

y为任意值

最末尾y为需要保留的最后一位。最尾数y后续数值情况说明(如上面的10000),:

10001:只要第一个1后续数字还包含有1,则说明最尾数y后续数值 > 1/2^5 * 1/2,即最尾数y+1, 说明一下 1/2^5是二进制最末尾y为1值对应值,其后面即为其1/2

 0yyyy;如果第一个为0,即不管后续数字为多少,必然说明最尾数y后续数值<1/2^5 * 1/2 即最尾数还是保持y

 10000;如果第一个为1,但是后续的值均为0,则说明其后续的值=1/2^5 * 1/2 则这时候说明舍入的距离都是相同的,这时候查看y的值,如果y为1,则y+1,如果y为0,则保持y为0

0
0
查看评论

Java与IEEE754浅浅谈

怎么用二进制来表示小数呢?        假设我们要用二进制来表示小数5.5,怎么搞?               按照常规思路,首先用二进制表示一下5,是101,那5.5岂不就是1...
  • u011679955
  • u011679955
  • 2016-10-07 17:00
  • 763

IEEE754 C 语言代码

void ConvertDexToIEE754(float fpointer,unsigned char *a)  //十进制转化为 IEEE745 小数 {        int Flag=0;    ...
  • zimiao815
  • zimiao815
  • 2016-06-02 08:28
  • 801

IEEE754浮点数的表示方法

1.浮点数的存储格式浮点数在C/C++中对应float和double类型,我们有必要知道浮点数在计算机中实际存储的内容。IEEE754标准中规定float单精度浮点数在机器中表示用 1 位表示数字的符号,用 8 位来表示指数,用23 位来表示尾数,即小数部分。对于double双精度浮点数,用 1 位...
  • K346K346
  • K346K346
  • 2016-01-09 17:08
  • 19061

IEEE 754-1985 浮点数标准文档

对浮点数的理解对计算误差和可能的程序效率的低下的理解很有帮助 IEEE 754-1985 was an industry standard for representing floating-point numbers in computers, officially adopte...
  • wangeen
  • wangeen
  • 2013-03-08 18:32
  • 1774

js浮点运算精度问题和IEEE754

原文链接当我们使用一段时间的JS之后会遇到下面这个问题 0.1 + 0.2 === 0.3 // false我们可以在控制台里面看到0.1+0.2输出的并不是0.3而是0.30000000000000004。那么为什么出现这样的问题呢。
  • u012362458
  • u012362458
  • 2017-09-07 17:17
  • 222

PHP IEEE 754 精度错误

运行如下代码 $t = 39.800 * 100; echo $t.''; echo intval($t); 结果: 3980 3979 文档解释 http://php.net/manual/zh/language.types.float.php ...
  • jam00
  • jam00
  • 2016-05-13 17:56
  • 828

IEEE-754标准

历史 IEEE-754标准的主要起草者是来自UCB的数学教授William Kahan.。他帮助Intel设计完成了8087浮点运算单元(FPU)。由于设计的浮点标准是如此的出色,使得IEEE将此标准作为IEEE浮点格式的基础。 为了浮点数据处理对于硬件、软件或者两者的结合都能产生独立的结...
  • wallc
  • wallc
  • 2017-05-24 11:22
  • 183

学习IEEE754标准需要注意的几个问题

1、什么是IEEE754标准用来规范化浮点数,其格式是(1)32位x=(-1)s×(1.M)×2E-127     e=E-127(2)64位x=(-1)s×(1.M)×2E-1023    e=E-1023其中,s是符号位,M是尾数,E是阶码,e是实际的指数...
  • hongdi
  • hongdi
  • 2010-03-17 22:47
  • 11574

IEEE754关于double格式定义的认识

利用计算机对有理数集合进行存储,想完全表示出来肯定是不行的,有理数集是无限集,而计算机的存储空间是有限的,因此在设计数据类型时就应当考虑到这些因素。 而在考虑的所有的因素中,要求同样的存储空间尽可能多存储不同的数,要求在有理数集中每个数在计算机数据类型中的映射与真实值得相对误差也要尽可能的小。这两...
  • u010614372
  • u010614372
  • 2015-04-10 15:12
  • 1264

IEEE 754标准中,阶的偏置值为什么是127,而不是128?

The reason is both Infinities/NaNs and gradual underflow. If you use exponents to show both integer (n >= 0) and fractional (n < 0) values yo...
  • ELKOR
  • ELKOR
  • 2015-03-29 19:27
  • 1922
    个人资料
    • 访问:59538次
    • 积分:1987
    • 等级:
    • 排名:千里之外
    • 原创:121篇
    • 转载:108篇
    • 译文:2篇
    • 评论:8条
    最新评论