3-2 浮点数的不精确与不连续

最新推荐文章于 2021-11-04 21:32:34 发布
最新推荐文章于 2021-11-04 21:32:34 发布
阅读量483 收藏 1
点赞数 1
文章标签： c语言
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/rororwww/article/details/105758220
版权
本文探讨了浮点数在计算机中的表示，指出尽管int和float在32位中都占用4字节，但浮点数的表示范围远大于int，然而这范围并非连续。浮点数的不连续性导致某些数值无法精确表示，如1到5中无法表示4。此外，由于其近似表示和复杂的内存表示，浮点数运算不仅可能不精确，速度也相对较慢。
摘要由CSDN通过智能技术生成 
#include <stdio.h>

int main()
{
   
    float f=3.3f;
    float f2=123456789;
    //float与int 相同32位 32组01组合
    //float的特殊表示法带来了更大的范围同时意味着float的不连续与不精确
    printf("%.10f\n&
最低0.47元/天 解锁文章
Zeki_
关注
基于FPGA的数字信号处理（4）--浮点数的定点化
孤独的单刀
04-27 5059
基于FPGA的数字信号处理（4）浮点数的定点化
从1-0.9不等于0.1说起——计算机中的浮点数
KeeponGoing1的博客
10-27 1922
初学Java时，在关于浮点数的各种资料中都会看到类似的说明：“浮点数在计算时极易产生微小的误差”，“在要求绝对精确的业务场景下，禁止使用浮点数计算”等等。 可以做一个最简单的验证： System.out.println((1-0.9f)==0.1f); 控制台输出： false 本文主要说明两个问题： 1、为什么浮点数在计算中不精确？ 2、浮点数的优缺点及应用思路 一、为什么浮点数在计算中不...
基本数据类型--浮点数不精确的原因
u010381769的博客
03-08 747
浮点数  float   内存表达方式     符号位     指数位        小数位 float  1位（第31位）  8位（第30-23位）     23位（第22-0位） double    1位（第63位） 11位（第62-52位）    52位（第51-0位）
关于浮点数的剪不断理还乱
knight-yun的博客
03-21 474
展开介绍关于浮点的表示与转换原理
java中浮点数能精确表示_Java中浮点数能连续精确表示整数的范围
weixin_31741271的博客
02-25 433
转自http://blog.csdn.net/seizef/article/details/5571783#ref_1，有删改。先简单介绍一下浮点数在计算机中的组成，在Java中采用的浮点数表示法是IEEE754标准。任意一个二进制浮点数V可以表示成下面的形式，进一步说明请参照[1]：(1)(-1)^s表示符号位，当s=0，V为正数；当s=1，V为负数。(2)M表示尾数，范围是[1,2)(规格化)...
浮点数
qq_40603331的博客
02-24 293
float 能表示的具体数字的个数与 int 相同float 可表示的数字之间不是连续的， 存在间隙float只是一种近似的表示法， 不能作为精确数使用由于内存表示法相对复杂， float 的运算速度比 int 慢得多注意： double 与 float 的内存表示法相同 ，由于占用的内存较多， 所能表示的精度比 float 高，但也是不精确的。 ———因此， 浮点数不能用于直接比较，否则可能出错...
关于浮点数的一些常见要点
南浦
11-18 829
关于浮点数的一些常见要点 本来这里应该有一篇关于浮点数的介绍的文章,不过个人认为书里面写得还是比较完善了,就暂时想欠着了,而这些关键点书里面一般介绍的比较少,我个人认为应该单独写文章出来 浮点数的不精确性 正如绝大多数的文章都会告诉你的一样,浮点数都是不精确的,所有浮点数都无法精确地表达实数.举一个例子,比如.0.01 在单精度浮点型中可以用说是0.0100000000029802322609...
算法-计算浮点数相除的余（信息学奥赛一本通-T1029）（包含源程序）.rar
09-16
2. **浮点数的舍入误差**：在计算过程中，可能会出现舍入误差，特别是在涉及除法和乘法的连续操作时。这些误差会累积，导致最终结果的不准确。 3. **除法运算**：在编程语言中，除以浮点数通常会得到一个浮点数结果...
代码之谜（五）- 浮点数（谁偷了你的精度？）
热门推荐
justjavac(迷渡)
11-13 1万+
****光棍节加长版**** 如果我告诉你，中关村配置最高的电子计算机的计算精度还不如一个便利店卖的手持计算器，你一定会反驳我：「今天写博客之前又忘记吃药了吧」。 你可以用最主流的编程语言计算 0.2 + 0.4，如果你使用的是 Chrome、FireFox、IE 8+，可以按 F12 键，然后找到 「控制台」，输入上面的 表达式 0.2 + 0.4，回车。 然后再用最简陋的
浮点数的秘密
weixin_30477293的博客
11-14 67
浮点数的秘密 内存中的浮点数 浮点数在内存中的存储方式为：符号位，指数，尾数 类型 符号位 指数 尾数 floa​t 1位(第31位) 8位(第23-30位) 23位(第0-22位) double 1位(第63位) 11位(第52-62位) 52位(第0-51位) 浮点数的转换 将浮点数转换成二进制 用科学计数法表示二进制浮点数 计算指数偏移后的值 注意：计算指数时需要...
有趣的二进制-浮点数
weixin_33708432的博客
05-22 282
2019独角兽企业重金招聘Python工程师标准>>> ...
flaot 数据类型的一些坑（大数吃小数）
点滴路程
05-15 9379
首先我们来看一段代码，你认为它会输出什么呢？解析：逻辑上就是将1.0进行累加2千万次。我们预计的结果应该是20000000。但是结果却如图：毫无疑问，这肯定和float数据类型有关，但是至于为什么会出现这个问题，我们一起来分析。
为什么浮点数一定是有误差的
Zetaa的博客
08-25 1万+
前提： 学习过信号处理，了解到在信号处理中，我们能够处理的都是数字信号，绝对不是模拟信号。数字信号是离散信号，模拟信号是连续信号。在这一思想基础下，思考了为什么会存在浮点数误差问题。为什么不讨论int整型会不会有误差而浮点数一定要考虑误差问题呢？就是因为，本质上我们面对int整型时候，想要处理的数据就是整数，而整数本身就是离散的数据，…… -2，-1,0,1,2 …… ，计算机提供就是完全正确的所有
一句话说明浮点数为何不能直接 if(f== 0.0)这样判断
wangxugangzy05的专栏
07-23 4395
float f = 0.33f * 0.2f; if(f - 0.066f == 0.0f) f = 0; 这个是来自csdn论坛的一个帖子，说的比较简单明了。这里是不会走到f=0这个地方的，因为浮点数是底数+指数的存储，计算机并不能连续存储指定精度宽度内的所有浮点数。上述例子中，f第一次计算结果不是0.066，是比0.066稍大的一个数f = 0.066000007，傻眼了吧，呵呵。当然，
浮点数的这些坑，你未必知道
donlian的专栏
11-04 797
我猜作为开发工程师，大部分人都用过浮点数。但是你是否用对了呢？你是否知道，浮点数有近一半的值，在-1与+1以内呢？ 今天的大纲有： 1、基本数据类型 2、认识浮点数规律 3、我在浮点数上踩过的坑 在计算机的眼中，一切都是数字，一切都是二进制。 一、基本数据类型 关于数值，你应该时刻牢记在心里的三点， 1、每个基本类型的数值都是有范围限制的，不是无限大的。 2、无论是boolean，int,float,string，struct，object，最终都对应计算机的一个byte或者多个byt
C语言浮点数的讨论
luobeihai的博客
09-04 527
1. 浮点数在内存中的存储方式 浮点数在内存中的存储方式为：符号位、指数、尾数（小数）。具体如下表格： 类型 符号位 指数 尾数（小数） float 1位（第31位） 8位（第23~30位） 23位（第0~22位） double 1位（第63位） 11位（第52~62位） 52位（第0~51位） float和double都是浮点数类型，float占4字节内存，double占8字节内存，所以他们所能表示的数据范围和精度不一样而已。但是，它们在计算机内部的存储方式是完全一样的。另外，浮点
浮点数据类型
木子皿--啥都不会的菜鸟
11-06 1764
文章目录1 浮点数据输出控制和精度1.1 浮点数据的输出控制1.2 浮点数据的精度 1 浮点数据输出控制和精度 1.1 浮点数据的输出控制 #include<iostream> #include<Windows.h> using namespace std; int main(void){ double value = 12.3456789; // 默认精度是6，...
关于浮点数的的表数精度和有效位数:
xywworld的专栏
03-01 3078
表数精度也称表数误差。浮点数存在表数精度的根本原因是由于浮点数的不连续性造成的。我们知道，任何计算机的字长都是有限的，如果一台计算机的字长是32位，用一个字长表示一个浮点数，则这种表示方式最多能表示232个（大约43亿个）浮点数，这只是实数集中的很少一部分。因此当我们向计算机中输入一实数时，计算机只能用一个它可以表示的接近这个实数的浮点数来存放，这样在这个实数和浮点数之间就存在一个误差，这个误
实现浮点数精确保留n位小数的有效方法
2. 编程语言特性：不同的编程语言和环境对浮点数的处理有所不同，要根据实际情况选择合适的方法和函数。 3. 性能影响：处理大量数据或者频繁运算时，浮点数运算可能影响程序的执行效率，需要对性能进行评估和优化。 ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值