- 博客(2)
- 收藏
- 关注
RSS订阅转载 DSP浮点研究之二：IEEE754标准（转载）
IEEE 754 浮点数的表示精度探讨<br />前言<br />从网上看到不少程序员对浮点数精度问题有很多疑问，在论坛上发贴询问，很多热心人给予了解答，但我发现一些解答中有些许小的错误和认识不当之处。我曾经做过数值算法程序，虽然基本可用，但是被浮点数精度问题所困扰；事情过后，我花了一点时间搜集资料，并仔细研究，有些心得体会，愿意与大家分享，希望对 IEEE 754标准中的二进制浮点数精度及其相关问题给予较为详尽的解释。当然，文中任何错误由本人造成，由我承担，特此声明。<br />1、什么是IEEE 754
2011-05-18 20:38:00
1547
原创 DSP浮点数研究之一：小数的二进制表示
一个浮点数由整数部分和小数部分组成，例如10.4375整数部分的二进制表示方法为：低位至高位1,2,4,8,16,32……，所以10的二进制为1010（2^3+0+2^1+0 =10）小数部分的二进制表示方法为：从小数点位置开始：1/2,1/4,1/8,1/16……，所以0.25的二进制为。0.0111（0+0.25+0.125+0.0625=0.4375）
2011-05-18 20:28:00
899
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人