浮点数的使用注意

原创 2015年11月18日 22:53:28

       近日在开发项目的过程中需要显示收益额,首先考虑的是使用浮点数表示金额,奈何,将从服务端返回的有1位精度的数值赋值给本地的float型变量后,数值变了(类似0.9变为0.8999999999999999)。究其原因浮点数是采用二进制系统表示,所以无法精确的表示类似1/10。解决方案使用BigDecimal类进行处理。

备注:

需要精确数值(如金融类)不宜使用float类型保存。

版权声明:本文为博主原创文章,未经博主允许不得转载。

相关文章推荐

浮点数介绍及使用注意事项

浮点数基本知识 计算机中的浮点数占4个字节,由三部分组成: Sign(1bit):表示浮点数是正数还是负数。0表示正数,1表示负数Exponent(8bits):指数部分。类似于科学技术法中的M...

C語言使用浮點數的觀念

  • 2009-06-17 10:30
  • 448KB
  • 下载

蓝桥杯常用算法知识点:2.浮点数的注意事项

浮点数的注意事项: 1.要注意浮点数不能用于精确的求等: package com.aiqiongdiao; /** * 啤酒:2.3 * 饮料:1.9 * 共花:82.3 * 饮料<啤...

蓝桥杯辅导视频学习-浮点数的注意事项

浮点数不能精确比较 蓝桥杯例题1: 浮点数:对它的说法是足够接近 |a - b| < seta,而不是完全相等(不能用 == 来判断,这是大忌)。因为计算式内部是采用二进制的方式来表示。上题可...

抓狂!!对浮点数使用 abs() 函数求绝对值的代价!!

因程序需要,需求出浮点数的绝对值~ 第一个想到的函数就是 abs(),不料无论怎么求,abs出来的结果都是0!! 是的,就是0!! 真是他妈的太奇怪了,我检查了一遍又一遍,代码的写法没有发现任何...

ModelBus协议中使用16位传输float浮点数

在ModelBus协议中,每一个数据使用两个字节来表示,可是float浮点数有四个字节,如何把float转换成两个字节的字节流呢?本文参照IEEE754浮点数标准,给出了一个16位的float定义方法...

使用BigDecimal对象进行Java浮点数精确计算

浮点数精确计算 胜利油田三流合一项目中一直存在一个问题,就是每次报表统计的物资金额和实际的金额要差那么几分钱,和实际金额不一致,让客户觉得总是不那么舒服,原因是因为我们使用java的浮点类型doub...

不使用C/C++标准库实现的浮点数与字符串相互转换(最给力)

不使用C/C++标准库实现的浮点数与字符串相互转换(最给力)

使用CAtlRegExp正则表达式检查浮点数输入

一、VS2008(Sp1)环境使用CAtlRegExp类需要额外下载ATL Server,(因为开源代码,没集成在VS2008里了) http://atlserver.codeplex.com/ ...
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:深度学习:神经网络中的前向传播和反向传播算法推导
举报原因:
原因补充:

(最多只允许输入30个字)