betterlord的专栏

扬帆起航

浮点数计算(Floating-point arithmetic)

        科学计算领域历史悠久,其中一个比较重要的技术发展莫过于IEEE754标准的制定,它确定了计算机如何利用离散格式来完成有理数和无理数的表示。

        请查阅[http://www.numericalexpert.com/tutorials/floating_point/floating_point.php],作者为Nikolai Shokhirev。该文的特点主要是有不少详细案例,同时附录的参考文献涵盖了浮点数计算的主要研究内容和技术知识点。当年国内一篇很著名的关于C语言的编程文档,提到不能直接进行两个浮点数的比较操作,我只能说,这种说法是片面的。作为软件工程而言,规定团队这么做无可厚非,但是作为科学计算或者技术原理而言,两个浮点数直接比较出现在大量程序之中,只需要注意精度和应用场合即可。


参考文献:

[1] Computer Methods for Mathematical Computations, by George E. Forsythe, Michael A. Malcolm, and Cleve B. Moler, Prentice Hall, Englewood Cliffs, New Jersey, 1977.

[2] https://en.wikipedia.org/wiki/Floating_point

[3] The Floating-Point Guide - What Every Programmer Should Know Floating-Point Arithmetic.

[4] IEEE 754-1985


阅读更多
上一篇两款Python工具推荐
下一篇Scilab的初步介绍
想对作者说点什么? 我来说一句

没有更多推荐了,返回首页

关闭
关闭