fmt标签浮点数精度设置问题

转载 2012年03月23日 15:21:41

fmt标签浮点数精度设置问题  

2011-07-05 15:13:38|  分类: 学习 |字号 订阅

<%@ taglib uri="http://java.sun.com/jsp/jstl/fmt" prefix="fmt" %>

在jsp里使用<fmt:formatNumber/>, 对double,float,等浮点类型数值,进行 四舍五入时,使用

1. ie6 <fmt:formatNumber />不起作用的问题

<fmt:formatNumber value="${prdsAmount - ctocOrder.orderAmount+ctocOrder.transAmount}" pattern="0.00" />  四舍五入,精确到小数点后两位,在ie7,ie8,和firefox上,可以正确使用,但 有的ie6,是不支持的,它会把格式过的内容,重新忽略掉,直接是el表达式的结果,所以在使用formatNumber前,最好 先设置 <fmt:setLocale value="en_US"/>.就不会出问题了。

2. 格式完后,减法运算时,显示-0.0的问题。

本人认为,可能由于计算机精度的问题,有时候几个数相减时,因为相减的数值均为浮点类型,我们看着两个相同 的数相减,应该为0.0,其实由于精度的不同,而是-0.000000000000099等小数点后,未知的小数,所以实际上是负值。如果你只是为页面显示,可以在减法结束后再加上不影响结果的小数值,从而得到正数0.0. 最好的方法,就是在程序里,直接把浮点数的精度设置好,就不会出现上述问题了。


from:http://feixia-168.blog.163.com/blog/static/182440992011653442954/

解决jsp页面数字精度丢失的问题

有时候涉及到数字计算的情况下,jsp页面可能会出现精度丢失的问题,例如,1.0显示成0.99999999这种问题。下面是这个问题的解决方案,以供参考。...

JSP 自定义标签实现数据精度格式化

在java web 开发中,以jsp作为页面显示的环境,jsp标签的使用大大简化了页面对后台数据的操作,但是对于一些特殊的要求,可以根据需求自定义标签实现。废话少说,直接上步奏代码。 开发工具:Ecl...

EL表达式jsp页面double小数点后保留两位

EL表达式jsp页面double小数点后保留两位,四舍五入 maxFractionDigits:保留几位小数...

el表达式保留两位小数、使用jstl <fmt:formatNumber>标签保留两位小数

上面代码输出结果为:551.10
  • zh921112
  • zh921112
  • 2014年11月28日 18:25
  • 50751

JSTL 浮点数字输出格式化

由于EL表达式的运算结果是浮点数时(而且EL表达式的除运算结果也是浮点数,这和其他语言还有点不一样),在网页上显示一长串确实不雅。使用JSTL的fmt标签,可以实现对数字、货币、时间……的格式化显示。...

关于浮点数的精度问题

  • 2013年11月03日 14:30
  • 39KB
  • 下载

【Java】解决计算浮点数精度问题(BigDecimal)

工具类如下: import java.math.BigDecimal; /** * * @ClassName: ArithUtils * @Description: 数学计算工...
  • hj7jay
  • hj7jay
  • 2016年09月05日 22:13
  • 1382

iOS 浮点数格式字符串比较大小 精度问题

计算机中float的存储是不精确的。但是真正开发实践的时候,或许只有出问题了,才会醒悟:哦,原来是这样。这个问题在高大上的OC上同样存在,稍不注意就会出现问题。尤其是涉及金融的计算比较数据方面显得格外...
  • MickDev
  • MickDev
  • 2017年06月08日 11:03
  • 1805

Java中解决浮点数精度的问题

转载于:https://my.oschina.net/roll1987/blog/753979 问题描述 在项目中用Java做浮点数计算时,发现对于4.015*100这样的计算,结果不是预...

C++ 字符串转换为浮点数时的精度问题

#include /*库文件包含*/ #include /*用于字符串操作*/ #include /*用于exit函数*/ /************************************...
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:fmt标签浮点数精度设置问题
举报原因:
原因补充:

(最多只允许输入30个字)