sqlite数值长度超过7位出错_万能的计算机运算也会出错?原来是这个原因!

计算机会算错!

学过编程的人一定会发现,计算机居然是个粗心鬼,在运行简单的计算题的时候还会算错?不信我给你看看一个java的例子,

e63ce62e699c6b59270b957cc36fb902.png

0.1累加十次应该是1才对,我闭着眼睛也能算对,而以计算出生的计算机算出来竟然是0.99999999999999,真是太令人失望了!我当时就给它一顿臭骂,它居然回怼我说:“你个毛小子,书读的少就不要跟我哔哔!”。我虽然有点不爽,当毕竟说出了我的心声,我读书的确实少。

不服气的我决定深入计算机的内心世界,探究里面的玄机。我们都知道,计算机虽然强大,但它只认得两个数字,那就是0和1。而计算机之所以能够拥有如此强大的功能,完成许多人类无法完成的事,就是因为它诞生以来有无数的计算机科学家和工程师,不断改进硬件和软件,设计了各种编程语言,实现了我们与机器的沟通。

因为计算机是用二进制计算的(只有0和1),而我们平常用到的数是十进制,我们看看二进制是如何转化为时进制的:

1dc3b8324df43ab7588a674e75482a47.png

将二进制上各数位数值和位权相乘,然后再将相乘的结果相加即可得到十进制的数,二进制数小数点前面部分的位权,第 1 位是 2 的 0 次幂、第 2 位是 2 的 1 次幂……,小数点后面部分的位权,第 1 位是 2的-1 次幂、第 2 位是 2 的-2 次幂……以此类推。

计算机算错的原因

既然你知道了二进制和十进制之间是如何转化的,那你就会发现,有一些十进制的小数无法转化为二进制数,比如十进制的0.1就无法用二进制表示出来。

614015f48712d1af69376c7535cece58.png

以小数点后四位为例,你会发现二进制能够表示16个数,也只能对应16个十进制的数,而小数点后四位的十进制数远远不止这么多,所以导致了有一些十进制数无法用二进制表示出来。如果增加二进制数小数点后面的位数,与其相对应的十进制数的个数也会增加,但不管增加多少位,2 的负无穷次幂怎么相加都无法得到 0.1 这个结果。

实际上,十进制数0.1 转换成二进制后,会变成 0.00011001100…(1100 循环)这样的循环小数,无限接近0.1。至此,大家应该明白了为什么上面的程序无法得到正确结果了吧。

因为无法正确表示的数值,最后都变成了近似值。计算机这个功能有限的机器设备,是无法处理无限循环的小数的。因此,在遇到循环小数时,计算机就会根据变量数据类型所对应的长度将数值从中间截断或者四舍五入。我们知道,将 0.3333…这样的循环小数从中间截断会变成0.33333,这时它的 3 倍是无法得出 1 的(结果是0.999999),计算机运算出错的原因也是同样的道理。

自我反思

原来真是我错怪计算机了,我立马给它道了个歉,希望他能原谅,以后好好听我话。其实,生活中也有不少这样的例子,我们会因为自己的无知或者不了解而错怪和误会他人,所以我们要多读书,多理解,因为自己的无脑而做出一些伤害别人的事。

你有这样的经历和体会吗?欢迎和我一起学习,交流,刚来知乎,希望能多认识几个朋友!

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值