关于限制浮点数位数的类

原创 2006年05月27日 00:50:00

给你一个显现类参考。


package com.css.sdmp.app.baseclass;
/**
 * 标题: <BR></p>
 * 描述: <BR>规约小数位数</p>
 * 版权: Copyright (c) 2003<BR></p>
 * 公司:
 * 作者: 何岸 [(hean@css.com.cn)(anli99@263.net)]<BR>
 * 版本: 1.0<BR>
 */
public class RuleDecimal
{
  public RuleDecimal(){}

  public static String getRuleFloatString(float initialValue)
  {
    return getRuleFloatString(initialValue,2);
  }

  /**
   * 对小数进行规约位数显示
   * @param value
   * @param digit
   * @return RuleFloatString
   */
  public static String getRuleFloatString(float initialValue,int digit)
  {
    boolean plus=true;
    int dotLong=digit;
    float value=initialValue;
    if(value<0)
    {
      plus=false;
      value=-1*(value);
    }

    if(dotLong<0)     dotLong=0;
    if(dotLong>5)     dotLong=5;

    float increFloat=0.5F;               //为四舍五入提供的截断误差前的增量。
    for(int i=0;i<dotLong;i++)
    {
      increFloat *= 0.1F;
    }

    float endValue=value+increFloat;
    int intValue=(int)endValue;

    float floatValue= endValue - intValue;
    StringBuffer sb=new StringBuffer();
    for(int i=0;i<dotLong;i++)
    {
      floatValue *= 10;   //放大小数到整数;
      byte b= (byte)floatValue;
      sb.append((char)('0'+b));
      floatValue=floatValue-b;
    }
    String plusString=(dotLong>0) ? (String.valueOf(intValue)+"."+ sb.toString()) : String.valueOf(intValue);
    return plus ? plusString : "-"+plusString;
  }

  public static void main(String[] args)
  {
    for(int i=0;i<=7;i++)
    {
      System.out.println("0.0F"+"    "+getRuleFloatString(0.0F,i));
      System.out.println("-0.0F"+"    "+getRuleFloatString(-0.0F,i));
      System.out.println("0.9688888888888F"+"    "+getRuleFloatString(0.9688888888888F,i));
      System.out.println("-0.9688888888888F"+"    "+getRuleFloatString(-0.9688888888888F,i));
      System.out.println("0.9999999999988F"+"    "+getRuleFloatString(0.9999999999988F,i));
      System.out.println("-0.4545499999999F"+"    "+getRuleFloatString(-0.4545499999999F,i));
      System.out.println("0.0999999999F"+"    "+getRuleFloatString(0.0999999999F,i));
      System.out.println("0.0099999999F"+"    "+getRuleFloatString(0.0099999999F,i));
      System.out.println("0.0009999999F"+"    "+getRuleFloatString(0.0009999999F,i));
      System.out.println("0.0000999999F"+"    "+getRuleFloatString(0.0000999999F,i));
      System.out.println("0.0000099999F"+"    "+getRuleFloatString(0.0000099999F,i));
      System.out.println("0.0000009999F"+"    "+getRuleFloatString(0.0000009999F,i));
      System.out.println("0.0000000999F"+"    "+getRuleFloatString(0.0000000999F,i));

    }
  }
}

关于浮点数的精度与取值范围的问题

 作者: jillzhang     联系方式:jillzhang@126.com    本文为原创,转载请保留出处以及作者, 谢谢    C语言和C#语言中,对于浮点类型的数据采用单精度类型(flo...
  • rsp19801226
  • rsp19801226
  • 2008年10月16日 13:34
  • 35251

深入理解浮点数有效位

浮点数分析
  • dreamer2020
  • dreamer2020
  • 2014年06月25日 03:28
  • 2899

JavaScript中浮点数的保留小数位数的问题

简介:如题! 另,该方法可能不够简洁,甚至有些繁琐。但是也是自己思考了一段时间的结果。如果有大神有更简单的方法,还请赐教!!先行谢过了。。 代码如下: var significantFigure= ...
  • guokeeryi_
  • guokeeryi_
  • 2014年03月04日 12:07
  • 1449

C和Java中如何控制浮点数的精度输出

1、C语言中可以通过输出格式说明符来控制浮点数的输出,如:%2.3f,整数位置的2表示整数部分固定以2位宽度输出,如果数据的位数小于2(且禁止输出小数的情况下,即%2.0f),则左端补以空格,否则按实...
  • F__shigang
  • F__shigang
  • 2017年03月19日 20:58
  • 1072

【ios学习记录】- UITextField输入浮点数的限制

通常在编辑框中输入一些货品数量,金额时,我们都会做一些输入的判断限制。例如不能输入非法字符,只能输入数字等等。现把最近遇到的一些输入限制需求展现如下:1、 输入小数位不能超过两位; 2、 不能重...
  • oceanlucy
  • oceanlucy
  • 2016年05月10日 10:29
  • 1778

c# 保留浮点数的n位有效数字

注意: C/C++的输出可能在不同编译器下会有不同结果。如果你的编译器和我的不一样,建议复制C/C++代码并在自己的编译器上运行下看结果。   下面所有C#代码由Visual C# 2010 Expr...
  • lcawen
  • lcawen
  • 2013年01月11日 17:08
  • 1797

深入理解浮点数有效位

浮点数分析
  • dreamer2020
  • dreamer2020
  • 2014年06月25日 03:28
  • 2899

详解Java中格式化输出浮点数

在Java中,我们经常使用%f来格式化输出浮点数,最近发现一个有趣的事。%f可以指定输出字符的宽度和小数点后的位数 1、只指定了整个输出的宽度public static void main(St...
  • qq_25237663
  • qq_25237663
  • 2015年08月29日 20:36
  • 2823

C语言计算浮点数的小数位数,屏蔽掉了浮点运算的误差

第一次去计算个
  • gdutxzy
  • gdutxzy
  • 2014年08月02日 23:08
  • 1483

Arduino 权威指南 第二版 第二章 2.3 使用浮点数

在Arduino中,浮点运算的结果是不够准确的,并且返回的值可以有一个小的近似误差。出现误差的原因时浮点仅用32为来存储一个巨大范围内的所有值。8位用于小数位置(指数),剩下的24位留给符号和数值,只...
  • lb1028461931
  • lb1028461931
  • 2016年07月27日 19:15
  • 1057
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:关于限制浮点数位数的类
举报原因:
原因补充:

(最多只允许输入30个字)