- 博客(3)
- 资源 (3)
- 收藏
- 关注
转载 float浮点数的溢出处理
浮点数计算溢出处理问题、浮点数1.#INF和1.#IND 问题浮点数计算溢出处理问题、浮点数1.#INF和1.#IND 问题<br /> <br />昨天遇到了一个关于浮点数计算溢出处理的问题,本来想用 if 语句把条件写好。<br />可是遇到了很多困难,上网搜了一下,发现一个解决办法:<br />if 语句把条件写好可以,但是如果遇到幂函数pow(x,y)时,问题就不那么简单了。仔细分析将发现:<br /> y<br /> x 负小数负整数0整数小数负小数无意义有意义有意
2011-01-29 08:35:00 23508
原创 ERROR
<br />误差(Error)什么是误差 <br />计量或测定中的误差是指测定结果与真实结果之间的差值。 <br /> 对任何一个物理量进行的测量都不可能得出一个绝对准确的数值,即用测量技术所能达到的最完善的方法,测出的数值也和真实值存在差异,这种测量值和真实值的差异称为误差。<br /><br /><br />误差的计算公式 <br />E = Xi − T<br /> 式中:E-误差;Xi-测定值;T-真实值。当测定值>真实值时,E为正值,反之,E为负值。 <br /><br /><br />误差
2011-01-13 09:44:00 15557
转载 误差( Error)
<br />误差(Error)什么是误差 <br />计量或测定中的误差是指测定结果与真实结果之间的差值。 <br /> 对任何一个物理量进行的测量都不可能得出一个绝对准确的数值,即用测量技术所能达到的最完善的方法,测出的数值也和真实值存在差异,这种测量值和真实值的差异称为误差。<br /><br /><br />误差的计算公式 <br />E = Xi − T<br /> 式中:E-误差;Xi-测定值;T-真实值。当测定值>真实值时,E为正值,反之,E为负值。 <br /><br /><br />误差
2011-01-13 09:40:00 3700
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人