浮点数的使用注意

原创 2015年11月18日 22:53:28

       近日在开发项目的过程中需要显示收益额,首先考虑的是使用浮点数表示金额,奈何,将从服务端返回的有1位精度的数值赋值给本地的float型变量后,数值变了(类似0.9变为0.8999999999999999)。究其原因浮点数是采用二进制系统表示,所以无法精确的表示类似1/10。解决方案使用BigDecimal类进行处理。

备注:

需要精确数值(如金融类)不宜使用float类型保存。

浮点数介绍及使用注意事项

浮点数基本知识 计算机中的浮点数占4个字节,由三部分组成: Sign(1bit):表示浮点数是正数还是负数。0表示正数,1表示负数Exponent(8bits):指数部分。类似于科学技术法中的M...
  • zfl129
  • zfl129
  • 2017年03月14日 22:26
  • 336

浮点数运算注意事项

由于计算机在运算浮点数时,会丢失精度,
  • zhaozhenzuo
  • zhaozhenzuo
  • 2014年05月31日 09:16
  • 1315

JAVA中浮点数使用注意事项

Java中浮点数使用过程中常用的注意事项
  • l460133921
  • l460133921
  • 2017年07月29日 18:43
  • 183

浮点数精度问题与使用注意点

“要想为某些正确选择数的精度具有重要意义的问题选择一种正确的精度,就需要有对浮点计算的深入理解。如果你并没有这种理解,那么给你一个忠告是花时间去学习,或者就选择double并期待着能得到最好的结果”...
  • m0_37975345
  • m0_37975345
  • 2017年03月27日 17:36
  • 225

浮点数不能进行相等性运算的原因

只能尝尝味道,离吃饱差的远
  • Sequin_YF
  • Sequin_YF
  • 2016年09月26日 22:08
  • 945

关于浮点数计算注意事项

之前在工作中遇到过浮点数的计算,当时用的double类型,2.0-1.1,结果为0.8999999999999999,并没有想象中返回0.9。 根据java核心编程书中(P35),浮点数值采用二进制...
  • a15995111a
  • a15995111a
  • 2016年03月11日 13:56
  • 94

浮点数使用注意

public class DoubleNote{  public static void main(String[] args){   System.out.println((1.0-0.8));...
  • user_longling
  • user_longling
  • 2013年10月05日 23:16
  • 583

浮点数表示和需要注意的问题

// 计算机底层数字转换:     //1.10进制转换为n进制,正数除以进制,倒转取余(通过16进制和2进制转换更方便);小数乘以进制数,顺序取整。     //2.N进制数转换为10进制数,Ax(...
  • Blues1021
  • Blues1021
  • 2015年01月14日 23:56
  • 4997

Matlab浮点数类型

Matlab浮点数类型
  • coolsunxu
  • coolsunxu
  • 2017年05月27日 22:50
  • 437

【计算机基础】 浮点数的使用小结

浮点数的存储原理 //////////////////////////////////////////////————float类型计算机存储原理 单精度(32位)浮点数的结构: 名称 ...
  • lihengjing1968
  • lihengjing1968
  • 2016年03月23日 13:54
  • 792
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:浮点数的使用注意
举报原因:
原因补充:

(最多只允许输入30个字)