c 浮点科学计数法

c 浮点科学计数法

浮点数

比喻1e1

e后面跟的是10的指数（也就是1的10次方，e表示10次方），f表示浮点数
1e1表示1×10¹，其实就是10
再例如5e2f，表示5×10²，也就是500

========================================================================================================================

-1.56E+12 的常量表示法怎么计算?
理解为1.56的12次方的负数？也就是：-1560000000000？

-1.56*10^12=-1560000000000
理解为-1.56*10的12次方-1560000000000
========================================================================================================================


   0.1101101111
+  0.0000000001
---------------   
   0.110110000


因为在任何区间内（比如1.0和2.0之间）都存在无穷多个实数，所以计算机浮点数不能表示区域内所有的值。浮点数往往只是实际值的近似。例如7.0可能以浮点数值6.99999存储。

解释

十进制转化为二进制的方法是 依次与2^(-n)作比较（n从1开始）
若大于该值则为1，且减去此值，否则为0；然后继续下一轮比较 

举例说明：将0.842356转换成二进制，你会发现比较将会是无穷无尽的。
如果你截取到某位，必须做一些取舍。取舍的标准是：其后一位若为1则进1；后一位为0则不进。
若要截取9位，因为第10位为0，故不进位，则最终的结果为：0.110101111；
若要截取到8位，因为第9位为1，故要进位，则最终的结果为：0.110110000（即0.1101101111 + 0.0000000001）。
从这个例子可以看出十进制小数的转换成二进制时只是一个近似值。其实大部分浮点数保存在计算机中都只是一个近似值。至于是稍微大于原值还是稍微小于原值，要看截取时有无进位。



0.842356

0.110101111 0 1001001010010010001111100101101110000101011  截取第9位 第10位为0，所以不进位=0.110101111

0.11010111  1 01001001010010010001111100101101110000101011  截取第8位 第9位为1，所以进位  =0.110110000

　　

posted @ 2018-01-08 16:41 史D芬周 阅读( ...) 评论( ...) 编辑 收藏