关于浮点数实际值和默认值

最新推荐文章于 2022-03-31 06:29:15 发布
最新推荐文章于 2022-03-31 06:29:15 发布
阅读量2.1k 收藏 2
点赞数
文章标签： 浮点数
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_20125305/article/details/41696215
版权

1.1程序如下 


1.2.结果如下：


预期：1.2F与1.2是相等的，显示后面的小数应该全是0。实际：1.2F实际是1.2000000476837158…..,并不是精确的1.2，而1.2F也与1.2不相等。原因：（1）float的有效数字只有8个，也就是1.2F输出20个位时只能保证前8位（1.2000000）是精确地，后面12位都是不精确的。

（2）由于C语言默认小数是double类型的，所以1.2是double类型的数据，当然与1.2F这个float类型的数据不相等。



程序如下：

 

最低0.47元/天 解锁文章
qq_20125305
关注
  • 0
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
从1-0.9不等于0.1说起——计算机中的浮点数
KeeponGoing1的博客
10-27 1875
初学Java时，在关于浮点数的各种资料中都会看到类似的说明：“浮点数在计算时极易产生微小的误差”，“在要求绝对精确的业务场景下，禁止使用浮点数计算”等等。 可以做一个最简单的验证： System.out.println((1-0.9f)==0.1f); 控制台输出： false 本文主要说明两个问题： 1、为什么浮点数在计算中不精确？ 2、浮点数的优缺点及应用思路 一、为什么浮点数在计算中不...
python、MATLAB的默认浮点数精度
sangba2019的博客
05-23 3078
Float为单精度，内存中占4个字节，有效数位是7位(因为有正负，所以不是8位) double为双精度，占8个字节，有效数位是16位 python\C\matlab中的浮点数是采用IEEE754标准存储的， python运算会出现的小bug python浮点数默认精度是float matlab浮点数默认精度是double，且无法修改 参考： 1、python数字类型与浮点数精度 2、[已答复] 如何更改MATLAB默认的变量存储为single浮点数（默认是double）...
YDOOK:Java: 获取 float Float 数据类型的默认值
YDOOK
03-04 642
YDOOK:Python3.9: YDOOK JY Lin 1. 原理方法： 1. `` 2. 实例代码： a_list = [1, 2, 3, 4, 5, 6, 7, 8, 9, 10] print('a_list = ', a_list) a_list.append(11) print('a_list = ', a_list) 3. 运行结果： 在这里插入代码片
java float初始,Java中基本数据类型的默认值(初始值)，
weixin_35958479的博客
03-11 4427
Java中基本数据类型的默认值(初始值)，数据类型默认值byte0short0int0long0float0.0double0.0Stringnullbooleanfalsepublic class bdtdValues {public static void main(String[] args) {Variable v = new Variable();System.out.println("...
c浮点型变量初始值整数_C数字变量类型整数，长整型，浮点型
cunjiu9486的博客
10-10 509
c浮点型变量初始值整数[rps-include post=6557] [rps-include post = 6557] As we learn variables are used to store values and variables have type. Type provides information about the value hold in the variable. Num...
威纶通_宏指令_浮点数加减乘除开方计算机
06-07
在实际应用中，我们还需要考虑到浮点数运算可能产生的精度问题。浮点数在计算机中的存储方式可能导致无法完全精确表示所有数字，特别是小数部分，这可能导致计算结果与预期略有差异。因此，在编写宏指令时，需要根据...
Python定义函数时参数有默认值问题解决
09-18
在Python中，不可变类型包括整数、浮点数、字符串、元组等，这些类型一旦创建，其值就不能改变。而可变类型如列表、字典和集合则可以在程序运行时修改其内容。 默认参数值是在函数定义时计算的，这意味着如果一个...
C#引用类型和值类型的区别
05-12
值类型直接存储其实际值，比如整数、浮点数、布尔值，以及自定义的结构体（struct）和枚举类型。变量在栈中分配内存，当作用域结束时自动释放，效率较高，且不会互相影响。例如，当你创建两个整数变量并赋予相同的值...
C++中对浮点数的显示
05-12
我们可以设计一个函数，接受一个 long double 参数，并将参数转换为字符串，结果字符串应保留两位小数，例如，浮点值 123.45678 应该生成"123.45"这样的字符串。此外，函数还应该能够处理各种异常情况，如像 123.0 ...
step7中FB1987块为六个BYTE转为一个浮点数
06-25
在实际应用中，这样的转换可能用于处理来自传感器的数值，或者在数据通信中将接收到的多个BYTE数据还原为原始浮点数。例如，如果一个传感器以多个BYTE发送其测量值，FB1987可以帮助用户正确解析这些数据。 使用FB...
使用整形和浮点型
tx_38381517101的博客
11-01 543
很久的作业了，截图了一直没发。现在都感觉很简单了。
浮点数精度问题
Jarvan_Song的博客
04-11 876
浮点数精度问题
浮点数精度问题 --- C语言
qq_43411866的博客
11-27 220
浮点数精度问题 例子： #include “stdio.h” int main() { float a=123456789; printf("%f",a); } 结果： 说明浮点数存在误差问题–浮点数的误差EPS //方程的根有两个，不能返回 void Fun(double a,double b,double c)//todo,if else if else { #define EPS ...
关于浮点数输出时的精度问题
hn1477856的博客
03-31 662
cout.precision()，cout.flags(cout.fixed)和cout.unsetf(cout.fixed)的使用
深入浅出浮点数
RobinLiu的博客
08-09 4572
1.浮点数描述 浮点数，通俗的讲就是显示格式具有小数点的数，如1.234、1234.0（十进制形式）。计算机中浮点数会按照某一处理标准存储在单元中（如IEEE 754标准），其复杂度远大于其它类型的数据。 通常对于要么很大或很小的浮点数，难以用十进制形式方便地编写，则使用科学记数法来表示：即由一个有效数字（尾数mantissa）和幂数（exponent）组合而成，通常是乘以基数为1...
关于浮点数的精度问题
晓风残月
08-05 942
浮点类型的数据采用单精度类型（float）和双精度类型(double)来存储，单精度浮点数用4字节（32bit）表示浮点数, 而双精度浮点数用8字节（64bit）表示。 在存储中都分为三个部分： 符号位(Sign) : 0代表正，1代表为负 指数位（Exponent）:用于存储科学计数法中的指数数据，并且采用移位存储 尾数部分（Mantissa）：尾数部分 用 M(尾数) *...
64位浮点数_【C语言教程】C语言浮点数及其应用
weixin_39988930的博客
11-22 1059
浮点型常量浮点型即生活中使用的小数类型(例如3.14)，例如账户的余额，银行的存款利率等等都是浮点型。C语言中按照精度的不同分别使用float,double和long double表示，默认浮点类型是double,float占据四个字节，double占据8个字节，long double大于等于8个字节，Windows 32位和64位系统long double都是8个字节，Ubuntu18.04...
mysql 浮点数的默认值_mysql 浮点型字段 float double decimal
weixin_42502075的博客
01-21 4120
MySQL中存在float,double等非标准数据类型，也有decimal这种标准数据类型。其区别在于，float，double等非标准类型，在DB中保存的是近似值，而Decimal则以字符串的形式保存数值。float，double类型是可以存浮点数(即小数类型)，但是float有个坏处，当你给定的数据是整数的时候，那么它就以整数给你处理。这样我们在存取货币值的时候自然遇到问题，我的defaul...
MySQL拾遗之数据类型的默认值-default
爱喝水的qdy的博客
12-17 1639
MySQL 中，所有的数据类型，都可以显式或隐式的拥有默认值。 我们可以使用 DEFAULT 约束显式的为列指定一个默认值。比如 CREATE TABLE t1 ( i INT DEFAULT -1, c VARCHAR(10) DEFAULT '', price DOUBLE(16,2) DEFAULT 0.00 ); 在上面这条语句中，我们为 int 类型的 i...
python空的默认值
最新发布
07-12
6. **数值类型**：整数和浮点数没有特定的“空”值，它们可以被认为是0（整数）或0.0（浮点数）。 对于容器类型的变量，如果需要初始化为空状态，上述就是它们的默认值。如果你试图访问未设置的对象属性或索引，...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值