浮点数的数值溢出问题:
[注]整型数据的表示范围是连续的, 而浮点型数据的表示范围并不是连续的(严格来说): 这是因为浮点型数据在内存中以阶码(决定了数据的表示范围)+尾数(决定了表示精度)的形式存储.
[注]当下溢出现象发生时, 系统会将结果处理成机器0(因为这个数已经小到足够接近0, 且无法用浮点数进行表示).
数值溢出的危害:
解决对策:
从小范围数据到大范围数据:
从高精度数据向低精度数据转换时, 会损失什么信息?
数值精度损失举例:
浮点数的数值溢出问题:
[注]整型数据的表示范围是连续的, 而浮点型数据的表示范围并不是连续的(严格来说): 这是因为浮点型数据在内存中以阶码(决定了数据的表示范围)+尾数(决定了表示精度)的形式存储.
[注]当下溢出现象发生时, 系统会将结果处理成机器0(因为这个数已经小到足够接近0, 且无法用浮点数进行表示).
数值溢出的危害:
解决对策:
从小范围数据到大范围数据:
从高精度数据向低精度数据转换时, 会损失什么信息?
数值精度损失举例: