fmt标签浮点数精度设置问题

fmt标签浮点数精度设置问题  

2011-07-05 15:13:38|  分类： 学习 |字号 订阅

<%@ taglib uri="http://java.sun.com/jsp/jstl/fmt" prefix="fmt" %>

在jsp里使用<fmt:formatNumber/>, 对double,float，等浮点类型数值，进行 四舍五入时，使用

1. ie6 <fmt:formatNumber />不起作用的问题

<fmt:formatNumber value="${prdsAmount - ctocOrder.orderAmount+ctocOrder.transAmount}" pattern="0.00" />  四舍五入，精确到小数点后两位，在ie7,ie8,和firefox上，可以正确使用,但 有的ie6，是不支持的，它会把格式过的内容，重新忽略掉，直接是el表达式的结果,所以在使用formatNumber前，最好 先设置 <fmt:setLocale value="en_US"/>.就不会出问题了。

2. 格式完后，减法运算时，显示-0.0的问题。

本人认为，可能由于计算机精度的问题，有时候几个数相减时，因为相减的数值均为浮点类型，我们看着两个相同 的数相减，应该为0.0，其实由于精度的不同，而是-0.000000000000099等小数点后，未知的小数，所以实际上是负值。如果你只是为页面显示，可以在减法结束后再加上不影响结果的小数值，从而得到正数0.0. 最好的方法，就是在程序里，直接把浮点数的精度设置好，就不会出现上述问题了。

from:http://feixia-168.blog.163.com/blog/static/182440992011653442954/