关闭

浮点数内存表示方式与java中关于浮点数的类

18人阅读 评论(0) 收藏 举报
分类:

1、浮点数内存表示方式

单精度浮点数:1位符号位,8位指数位,23位有效数字。 双精度浮点数:1位符号位,11位指数位,52位有效数字。 计算规则:数字 = 有效数字*2^指数*符号

2、java中存储浮点常量默认数据类型为double类型,若要赋值给float型,应在数值末尾加F(或者f),例如 float a=3.14f.

浮点数存在舍入误差,很多数字不能精确表示。如果需要进行不产生舍入误差的精确浮点数计算,需要使用类BigDecimal.

在数值比较中最好避免使用浮点数。

3、数值强制转换类型

0
0

查看评论
* 以上用户言论只代表其个人观点,不代表CSDN网站的观点或立场
    个人资料
    • 访问:69次
    • 积分:30
    • 等级:
    • 排名:千里之外
    • 原创:3篇
    • 转载:0篇
    • 译文:0篇
    • 评论:0条
    文章分类
    文章存档