C# float double decimal 金额舍入区别

最新推荐文章于 2024-02-21 15:34:00 发布

Pipi0714

最新推荐文章于 2024-02-21 15:34:00 发布

阅读量5.8k

点赞数

文章标签： float c# 测试

本文链接：https://blog.csdn.net/pipi0714/article/details/6195030

版权

//函数功能：

value要转换的值

digits小数位数

truncatetype:截取类型全入全舍四舍五入

下面是原先代码

public static double ConvertDouble(double value, int digits, int truncatetype)
{
double tempPow = System.Math.Pow(10,digits);
double tempValue = value * tempPow * 10;
tempValue = System.Math.Truncate(tempValue);
tempValue /= 10;

switch(truncatetype)
{
case 1: //上取
tempValue = System.Math.Ceiling(tempValue);
break;
case 2: //下取
tempValue = System.Math.Floor(tempValue);
break;
default:
tempValue = System.Math.Round(tempValue);
break;
}

return (tempValue / tempPow);
}

public static float ConvertFloat(float value, int digits, int truncatetype)
{
return Convert.ToSingle(ConvertDouble(Convert.ToSingle(value), digits, truncatetype));
}

主要使用ConvertFloat这个函数在测试过程中发现1.8变成1.79这是两位小数。最后修正的代码

public static float ConvertFloat(float value, int digits, int truncatetype)
{
float tempPow = Convert.ToSingle(System.Math.Pow(10, digits)); //移动小数点到digits位
float tempValue = value * tempPow * 10.0F; //继续移动一位小数
tempValue = Convert.ToSingle(System.Math.Truncate(tempValue)) / 10.0F; //截取后移回小数位

switch (truncatetype) //截取
{
case 1: //上取
tempValue = Convert.ToSingle(System.Math.Ceiling(tempValue)) / tempPow;
break;
case 2: //下取
tempValue = Convert.ToSingle(System.Math.Floor(tempValue)) / tempPow;
break;
default:
tempValue = Convert.ToSingle(System.Math.Round(tempValue)) / tempPow;
break;
}

return tempValue ;
}