数值计算
文章平均质量分 71
薇儿爹
这个作者很懒,什么都没留下…
展开
-
用于调试浮点数算法的数据结构
Visual C++ 中调试浮点数的数据结构struct Binary32{ unsigned int m : 23; // 尾数 unsigned int e : 8; // 指数 unsigned int s : 1; // 符号位};union SingleData{ Binary32 b; float f; unsigned int原创 2007-04-05 16:47:00 · 705 阅读 · 0 评论 -
IEEE 754 浮点数的表示精度探讨
前言 从网上看到不少程序员对浮点数精度问题有很多疑问,在论坛上发贴询问,很多热心人给予了解答,但我发现一些解答中有些许小的错误和认识不当之处。我曾经做过数值算法程序,虽然基本可用,但是被浮点数精度问题所困扰;事情过后,我花了一点时间搜集资料,并仔细研究,有些心得体会,愿意与大家分享,希望对IEEE 754标准中的二进制浮点数精度及其相关问题给予较为详尽的解释。当然,文中任何错误由本人造成,由我原创 2007-04-05 12:09:00 · 1981 阅读 · 1 评论