float double BigDecimal 详解,java工作原理

输出的结果为:

0.06999999999999999

0.5800000000000001

401.49999999999994

0.30310000000000004

0.06999999999999999

0.07

网上说的是,计算机是二进制的,而浮点数是没有办法进行精确的表示的,我们CPU表示浮点数由两个部分组成:指数和尾数。这样表示浮点数会产生一定的误差。

现在来先讲讲float和double的区别吧:

float是单精度的,有效位是8位,占4个字节,一个字节是8位。取值范围是10的-38次方到10的38次方。

double是双精度的,有效位是16位,占8个字节,取值范围是10的-308次方到10的308次方。

当你不声明的时候,默认小数都用double来表示,所以在上面的程序中,直接打印出的表达式结果以double类型显示的。所以如果要用float的话,则应该在其后加上f

float a=1.3f

注意float

《一线大厂Java面试题解析+后端开发学习笔记+最新架构讲解视频+实战项目源码讲义》

【docs.qq.com/doc/DSmxTbFJ1cmN1R2dB】 完整内容开源分享

是8位有效数字,第7位数字将会产生四舍五入

所以如果一个float变量 这样定义: float a=1.32344435; 则第7位将产生四舍五入(5及5以下的都将舍去) 实际a值为1.3234444。

其实float和double只是用来科学计算和工程计算上,在很多商业计算上,需要的数据更加精确,这个时候就用到了BigDecimal了,简单说一下BigDecimal到底是什么东西。

Java在java.math包中提供的API类BigDecimal,用来对超过16位有效位的数进行精确的运算。双精度浮点型变量double可以处理16位有效数。在实际应用中,需要对更大或者更小的数进行运算和处理。float和double只能用来做科学计算或者是工程计算,在商业计算中要用java.math.BigDecimal。BigDecimal所创建的是对象,我们不能使用传统的+、-、*、/等算术运算符直接对其对象进行数学运算,而必须调用其相对应的方法。方法中的参数也必须是BigDecimal的对象。构造器是类的特殊方法,专门用来创建对象,特别是带有参数的对象。

把上面的代码改写下:

package com.main;

import java.math.BigDecimal;

public class Test1 {

public static void main(String[] args){

double b=0.06+0.01;

BigDecimal b1 =new BigDecimal(b);

BigDecimal b2 = BigDecimal.valueOf(0.06+0.01);

System.out.println(0.06+0.01);

System.out.println(b);

System.out.println(b1);

System.out.println(b2);

System.out.println(b1.add(b2));

System.out.println(b1);

System.out.println(b1.multiply(BigDecimal.valueOf(1+1)));

}

}

结果显示:

0.06999999999999999

0.06999999999999999

0.06999999999999999278355033993648248724639415740966796875

0.06999999999999999

0.13999999999999998278355033993648248724639415740966796875

0.06999999999999999278355033993648248724639415740966796875

0.13999999999999998556710067987296497449278831481933593750

可以看到BigDecimal 的精度更高,当然精度越高,资源占用就越大。从结果可以看出两个问题。

1. 打印出的b1和b2 的区别

b1的精度是bigDecimal位数的,但是b2的精度是16位的,和double的位数一样,b1和b2 是两个声明bigDecimal 的方式。至于为什么不同,我想应该是在源码里两个方式保留的位数不同吧,具体没看源码,也不是很清楚。

2. 在b1.add()方法后再打印出b1的值显示是没有改变的,那么bigDecimal 声明的变量是值类型还是引用数据类型呢。刚才看到了是数值传递,个人感觉是数值类型。

下面来看一下一个四舍五入的问题关于bigDecimal的

package com.main;

import java.math.BigDecimal;

import java.math.RoundingMode;

public class Test1 {

public static void main(String[] args){

System.out.println(“12.5的四舍五入值:” + Math.round(12.5));

System.out.println("-12.5的四舍五入值:" + Math.round(-12.5));

double b=0.06+0.0100001;

BigDecimal b1 =new BigDecimal(b);

double b2=b1.setScale(16,RoundingMode.HALF_UP).doubleValue();

System.out.println(b1);

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值