- 博客(1)
- 资源 (2)
- 收藏
- 关注
原创 有限字长效应
<br /> <br />前几天天遇到一个问题,就是在显示浮点数值时,读到的数和输出的数不一样,比如说,我读到float 14.7,然后要按每一位分别输出,结果输出为14.6,开始以为是程序写的有问题,检查一遍后发现应该逻辑上是正确的。后来问了老师,解释这是有限字长效应,<br />(百度解释:运算过程中的有限字长效应与所用的数制(定点制、浮点制)、码制(原码、反码、补码)及量化方式(舍入、截尾处理)都有复杂的关系。例如,使用定点制时,每次乘法之后,会引入误差;而浮点制时,每次加法和乘法之后均会引入误差。)
2011-04-20 21:56:00
2211
C程序设计语言The C Programming Language 中文版教材及课后答案
Brian W.Kernihgan & Dennis M.Ritchie著C程序设计语言 ,中文版 ,带课后答案
2010-10-13
算法导论2 英文版Introduction to Algorithms Second Edition
This document is an instructors manual to accompany Introduction to Algorithms,
Second Edition, by Thomas H. Cormen, Charles E. Leiserson, Ronald L. Rivest,
and Clifford Stein. It is intended for use in a course on algorithms. You might
also Þnd some of the material herein to be useful for a CS 2-style course in data
structures.
2009-10-11
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人
RSS订阅