![](https://img-blog.csdnimg.cn/20201014180756926.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
DSP
nkxiaoliu
这个作者很懒,什么都没留下…
展开
-
DSP浮点数研究之一:小数的二进制表示
一个浮点数由整数部分和小数部分组成,例如10.4375整数部分的二进制表示方法为:低位至高位1,2,4,8,16,32……,所以10的二进制为1010(2^3+0+2^1+0 =10)小数部分的二进制表示方法为:从小数点位置开始:1/2,1/4,1/8,1/16……,所以0.25的二进制为。0.0111(0+0.25+0.125+0.0625=0.4375)原创 2011-05-18 20:28:00 · 899 阅读 · 0 评论 -
DSP浮点研究之二:IEEE754标准(转载)
IEEE 754 浮点数的表示精度探讨<br />前言<br />从网上看到不少程序员对浮点数精度问题有很多疑问,在论坛上发贴询问,很多热心人给予了解答,但我发现一些解答中有些许小的错误和认识不当之处。我曾经做过数值算法程序,虽然基本可用,但是被浮点数精度问题所困扰;事情过后,我花了一点时间搜集资料,并仔细研究,有些心得体会,愿意与大家分享,希望对 IEEE 754标准中的二进制浮点数精度及其相关问题给予较为详尽的解释。当然,文中任何错误由本人造成,由我承担,特此声明。<br />1、什么是IEEE 754转载 2011-05-18 20:38:00 · 1547 阅读 · 0 评论