浮点数的运算与比较-C#

using System;

namespace CSharplearn
{
    class Program
    {

        static void Main(string[] args)
        {
            decimal decimalNum = 1.6M;
            double doubleNum1 = 0.1F * 16F;
            double doubleNum2 = 0.1D * 16D;
            float floatNum = 0.1F * 16F;
            Console.WriteLine("0.1 * 16 = 1.6");
            Console.WriteLine("decimalNum = "+(decimalNum));
            Console.WriteLine("doubleNum1 = "+(doubleNum1));
            Console.WriteLine("doubleNum2 = "+(doubleNum2));
            Console.WriteLine("floatNum = "+(floatNum));
            Console.WriteLine($"{ decimalNum}!={ (decimal)doubleNum1}");
            Console.WriteLine($"{(double)decimalNum}!={doubleNum1}");
            Console.WriteLine($"{doubleNum1}!={doubleNum2}");
        }
    }
}

结果:
float
我们都知道0.1*16=1.6,但是碰上小数运算和类型转换原本我们自己认为相等却因为精度问题显示不相等.(虽然!=是我手打上去的但是用其他检测方法一样会得出false的结果)所以在小数运算时要不改用decimal要不就判断两数之差是否相似于某个值.

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值