C++ float转double精度丢失问题

已于 2022-05-05 08:33:34 修改
阅读量4.6k 收藏 6
点赞数 1
文章标签： c++
于 2022-05-05 08:06:23 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/lichao_n/article/details/124581365
版权
博客讨论了float到double转换中可能存在的精度损失问题，指出即使通常认为不会丢失精度，实际上可能会出现微小误差。举例展示了0.01在转换后变为0.00999999978，这在精度要求高的计算中可能导致问题。建议使用double确保精度，或者通过将float转换为string再转为double来避免精度丢失。
摘要由CSDN通过智能技术生成

float精度能保证6位有效，double保证15位有效。

一般认为float转double是不会丢失精度的，但是实际情况会丢失。

如下图所示，gdb启动调试一个简单程序，打印堆栈中foat值，应该是0.01的，结果变成0.00999999978。如果再乘以大数，就会放大精度丢失的结果。因此对精度要求高的话，建议尽量用double。一个蹩脚的办法是将float转string，再转double，精度不会丢失。

hhdxlc
关注
float、double -- 精度丢失问题
qq_37233070的博客
03-15 1170
float、double – 精度丢失问题在 C#、java 中很常见。
C#中float向double转换时会发生精度丢失
栩风
11-16 3935
C#中float向double转换时会发生精度丢失问题，测试代码如下：using System;using System.Collections.Generic;using System.Text;namespace Folat隐式转换为Double精度测试{    class Program    {        static void Main(string[] args)        {
double类型 精度丢失的问题
最新发布
A_aspectJ的博客
08-05 1426
因为计算机只能识别0和1，即二进制，无论哪种编程语言，都需要翻译成二进制才能被计算机识别。这种舍入误差的主要原因是浮点数值采用二进制系统表示， 而在二进制系统中无法精确地表示分数 1/10。这就好像十进制无法精确地表示分数 1/3—样。
基于C++浮点数(float、double)类型数据比较与转换的详解
菜鸟天路
09-12 1952
浮点数在内存中的存储机制和整型数不同，其有舍入误差，在计算机中用近似表示任意某个实数。具体的说，这个实数由一个整数或定点数（即尾数）乘以某个基数（计算机中通常是2）的整数次幂得到，这种表示方法类似于基数为10的科学记数法。 所以浮点数在运算过程中通常伴随着因为无法精确表示而进行的近似或舍入。但是这种设计的好处是可以在固定的长度上存储更大范围的数。 1、将字符串转换为float、double过程
C++中float和double
System Architect
11-15 7428
简单来说，Float为单精度，内存中占4个字节，有效数位是7位（因为有正负，所以不是8位），在我的电脑且VC++6.0平台中默认显示是6位有效数字；double为双精度，占8个字节，有效数位是16位，但在我的电脑且VC++6.0平台中默认显示同样是6位有效数字（见我的double_float文件）   还有，有个例子：在C和C++中，如下赋值语句 float a=0.1; 编译器报错：war
c++ float转double_第二天：C基础习题
weixin_39639040的博客
11-21 451
3.//题目：调和交错数列求和//咕咕想知道1~1/100交错调和数列的和是多少，但由于用计算机太过繁琐，所以咕咕写了一个代码来方tou便lan计算。//小哥：咕咕，你不会百度吗？//咕咕：…………// 1- 1/2 + 1/3 - 1/4 ……+ 1/99 -1/100//答案：0.688172//主要内容：利用循坏结构简化繁琐的过程！代码实现：#includeint main()...
c++ 读取内存数据 基址_C/C++中float & double类型数据在内存中的存储形式
weixin_40005795的博客
10-21 325
我又来了，第二篇博客fighting，接着第一篇，这里讨论一下C/C++中float & double类型数据在内存中的存储方式如有侵权，请联系删除，如有错误，欢迎大家指正，谢谢IEEE规定IEEE规定float & double类型的数据用三元组{S, E, M}表示，"S"用0和1分别表示正数和负数，尾数"M"用原码表示，阶码"E"用移码表示，还规定尾数域的最高有效位总是1，...
c++ float转double_还不会浮点数转二进制？下次有人问你，直接把这篇文章扔给他
weixin_39627390的博客
11-13 1072
作为一名程序猿，假如某一天，有一个妹子拿着一个浮点数，求你教她怎么换算成二进制，如果你不能单手求出来，你都不能算一个合格的工具人.....好吧，是一个合格的程序猿(狗头保命)。回归正题，有好多小伙伴去工作之后，早已经忘了最基本的计算机基础，今天，来讲下，在计算机中，怎么用二进制表示浮点数？下次再有人问你，就把这篇文章丢给他。作为一种数据类型，浮点数应用广泛。在处理诸如订单交易、货币计算、或者商品...
QString转Double时精度丢失，判断整数倍的技巧
KingBright的博客
05-29 4350
QString转Double时精度丢失，判断整数倍的技巧问题场景QString 0.07 / QString 0.01 不是整除的问题解决方法 问题场景 QString 0.07 / QString 0.01 不是整除的问题解决方法 // An highlighted block QString text1(0.07); QString text2(0.01); text1.toDouble() / text2.toDouble() != 7; // 因为0.07转换时有精度丢失，此时的解决方法 //获得
c++ float 和 double 转换
10-29
由于double类型的表示范围更大，精度更高，因此在转换时可能会发生精度丢失。可以使用强制类型转换操作符`(float)`将double类型转换为float类型。例如： ```c double d = 3.14; float f = (float)d; // 将double...
C# float double精度损的的问题
L_Vincent的专栏
11-28 3549
在工作中我发现了一个C#浮点数的精度问题，以下的程序运行结果并未得到我预期的结果： view sourceprint? 01 namespace FloatTest 02 { 03     class Program 04     {
float转double精度丢失_java中double类型精度丢失问题及解决方法
weixin_32027887的博客
01-19 1650
作者：晨光Jason来源：https://blog.csdn.net/yacolspace/article/details/78287394今天在项目中用到double类型数据加减运算时，遇到了一个奇怪的问题，比如1+20.2+300.03，理论上结果应该是321.23，其实结果并不是这样。打印结果如下：这是为什么呢？又该如何解决呢？在使用Java中double 进行运算时，经常出现精度丢失的问题...
Java Float转Double精度问题
lapush的博客
07-06 953
float flo = 20.2f 通过Float.valueOf(pidRuleDTO.getMotherRate()).doubleValue() 结果：20.200000762939453 正确转换：Double.valueOf(String.valueOf(flo)) 结果：20.2
C/C++编程笔记：数据类型中 float 和 double 的区别！细节讲解
致力于C语言C++知识分享！
11-12 1821
为了表示浮点数，我们使用float，double和long double，有什么不同 ？ double的精度是float的2倍。 float是32位IEEE 754单精度浮点数1位符号，（8位为指数，23 *为值），即float具有7位十进制数字精度。 double是64位的IEEE 754双精度浮点数（符号1位，指数11位，值52 *位），即double具有15位十进制数字的精度。 让我们举个例子： 对于二次方程x2 – 4.0000000 x + 3.9999999 = 0，精确到10个有
java float 转double_将float转换为double而不会丢失精度
weixin_28746207的博客
02-21 764
我发现转换为二进制表示更容易理解这个问题。float f = 0.27f;double d2 = (double) f;double d3 = 0.27d;System.out.println(Integer.toBinaryString(Float.floatToRawIntBits(f)));System.out.println(Long.toBinaryString(Double.doubl...
java 类型转换问题：float直接转double会出现精度误差
AlaiaCodeingLife
07-10 8333
解决思路 float 转换为 String，再将 String 转换为 double 以下为测试： 1.直接转换 public static void main(String[] agrs){ double a=2.8d; float a1=2.8f; double a2=a1; System.out.println("a1...
float与double的精度问题
cj0018的博客
07-15 5868
【问题】 在之前的一篇文章中，提到过float和double不能用于金额计算，原因是浮点型数据计算中会产生误差，造成结果不准确。这一篇我们仔细分析这种误差的产生来源。 先看一段代码： public static void main(String[] args) { float a = 34.12f; float b = 34; float c = 0.12f; System.out.println(a - b); Sys
c++ float转double_萌新求教//c语言float和double哪个算得快？
weixin_39877898的博客
11-28 486
喜欢的可以收藏转发加关注首先, c语言本身没有float在计算时要统统专为double的规定. 那么, 就要考虑一下实际情况了,一般来说, x86的CPU中有两个单元可以被用来计算浮点数, 一个是远古时期传下来的FPU, 另一个是一脉传承的SSE/AVX指令集. (当然我们也可以吃饱了撑的用其他整数指令集去计算浮点数, 但这没有任何意义. )其中, FPU指令集内部使用80位精度计算浮点数, 无论...
评论 2
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值