关于int型和float型相乘的问题

最新推荐文章于 2024-07-13 09:53:03 发布
最新推荐文章于 2024-07-13 09:53:03 发布
阅读量2.5w 收藏 10
点赞数 6
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/meilinjie/article/details/51391940
版权

问题描述，比如int a = 58   如果直接用a*0.006在我的代码里运行出来是0.34800000000000003 而我们手算，结果应该是0.348？

为什么会出现这样的情况呢，因为0.006是一个float型的数据，我们看它是0.006,但是他在内在里就不一定是0.006，它可以是0.00599999999999999，或者0.006000000000000001，因为浮点型的范围为-2^128 ~ +2^128，也即-3.40E+38 ~ +3.40E+38；

float：2^23 = 8388608，一共七位，这意味着最多能有7位有效数字，但绝对能保证的为6位，也即float的精度为6~7位有效数字；也就是说float型可能存在一位是不能保证有效的，所以就会出现上面那种情况了



meilinjie
关注
float 与 int 相乘产生的令人崩溃的“ 2.3 * 10 = 22 ”
pg的博客
09-14 4092
越是简单的越不能忽视 类型强转一定要　注意！　注意！　注意！ 以上两天结论前前后后花了我三天工作时间才让我意识到并学到。有的时候，不管你小心还是无意，坑就在那里，踩的人够多，也许就填平了。 在工作中，分配到一个bug，简单描述一下：该程序很庞大，由QT编写，跨平台，支持ubuntu和windows，其中一个模块需要控制海康摄像头，代码中有海康的SDK。bug的现象是无法设定到指定的摄像头调焦...
用int的定点数来做float的相乘
09-09
实现一个精简的 C++ 类, 用int的定点数来做float的相乘.
求教，关于浮点型和整型的相乘计算
YLQ999的博客
12-31 482
运行后的结果是0，只有把变量b的数据类型改成float，或者把占位符换成%f才能正确得出4的结果。在看数据类型相关的教学视频，试着写了下面的一点代码，但结果和我预想的不太一样。
C语言自动类型转换：int型数据 + float数据 → double型？纠正教材中的错误用法！
holoyh的博客
07-19 1万+
自己在专科读书时发现后记录下的，后来得知在知名的书中早已记载此坑。相比这种研究，还是要多了解正确的学习方法的~
关于double和int型变量运算结果的分析
最新发布
2301_77659590的博客
07-13 324
C语言，int,double
整型 乘以 浮点型
01-29 1万+
一个整型乘以一个浮点型，其结果是？ 在VS2008上编写如下代码： #include using namespace std; int main() { int nTest = 11; double dTest = 0.3; cout << dTest * nTest<< endl; return 0; } 其运行结果如下图所示： 一个整型加上或减去或除以
float型和int 的小疑问
u012427592的专栏
10-13 508
#include void main() { printf("%d\n",1.0/3*3); } 答案怎么为0？ 若改为 printf("%f\n",1.0/3*3);  答案为1.000 printf("%d\n",3/2); 答案为0.000 printf("%f\n",3/2); 答案为1 怎么会这样子的？不明白.求大神指导。
C语言——整型和浮点型混合运算
jay_zzs的博客
05-08 3万+
1. int和double混合运算 C语言int和double混合运算时，会自动将int类型的数据转换为double类型的数据，最后得到的结果也是double类型。如下例： double a=4.0/9.0; int b=9*a;//b=3，因为double类型的4.0/9.0的值要小于4.0/9.0的实际值（考虑到有效位数有有限的） 上面代码中，b=3，因为double类型的4.0/9.0要小于4.0/9.0的实际值，这是由于浮点型有效位数的限制造成的，所以9*a的值要小于4，赋值给int类型的时
android EditText单价(Int)与数量(Float)自动相乘 保留两位小数
07-31
在这个场景下，`EditText`控件通常用于接收用户输入，而单价通常是整数（Int类型），数量可能是带有小数的数字（Float类型）。本文将详细介绍如何在Android中实现`EditText`的单价和数量输入自动相乘，并且结果保留...
python中的int型和float型相乘，为什么小数点后面会乱
03-08
在Python中，当int型和float型相乘时，结果会自动转换为float型。由于float型在计算机中是以二进制表示的，而二进制无法精确表示所有的十进制小数，因此在进行浮点数运算时，可能会出现精度误差，导致小数点后面的...
int类型与float类型相乘结果保留三位小数
05-31
int main() { int a = 2; float b = 3.14159; float c = a * b; cout (3) ; return 0; } ``` 这里的 setprecision(3) 表示将浮点数的小数部分保留三位。注意需要使用 fixed 修饰符来保证小数点后面输出的位数...
C++ int 和float相乘
06-10
在C++中，当int和float相乘时，结果将会自动转换为float类型。这是因为float类型能够表示更大的数值范围和更高的精度，所以在进行运算时，C++会自动将int类型转换为float类型，以便保持精度和范围的正确性。以下是一...
python中int类型与float类型相乘结果保留三位小数
05-31
你可以使用 Python 中的 round 函数来控制浮点数输出的精度。具体操作如下： ```python a = 2 b = 3.14159 c = round(a * b, 3) ...注意由于浮点数的精度问题，可能会出现一些不符合预期的结果，需要注意。
C++指针、引用
赶路人儿
03-11 476
1、取地址运算符、间接寻址运算符： & 取地址运算符，返回变量的内存地址（指针）。 * 是间接寻址运算符（解引用），是 & 运算符的补充，返回变量所指定地址的变量的值。 #include <iostrem> using namespace std; main() { int var; int *p; int val; var = 3000; ...
C语言中不同变量类型之间的运算与不同常量类型之间运算的分析
XMEbaima的博客
12-24 4648
不同的数据类型转换分为自动转换和强制转换，此文只讨论自动转换的情形； C语言中float类型安排4个字节，double类型安排8个字节，int类型为四个字节。在一次调试中博主发现这样的情形； sizeof为c语言中的一个关键字（也被称为单目运算符），用于判断数据长度； 上面这个情况可以用一句话来解释——C编译系统把浮点型常量都按双精度处理，分配八个字节； 但是在学习过程中这里存在一个坑。参...
int与float深入理解
热门推荐
Bing_ka的专栏
07-25 4万+
别在int与float上栽跟头 int与float是我们每天编程都用的两种类型，但是我们真的足够了解它们吗。昨天在博客园看到一个比较老的笑话: “昨天晚上下班回家，一民警迎面巡逻而来。突然对我大喊：站住！民警：int 类型占几个字节？  我：4 个。  民警：你可以走了。  我：为什么问这样的问题？ 民警：深夜还在街上走，寒酸苦逼的样子，不是小偷就是程序员。”（注：看到有朋友评论说占几个字节
关于C语言中的int - float 计算的问题
qq_34133578的博客
06-01 1万+
在实验课中涉及到 int - float的 区别，注意到倘若 由int a；int b;float c;a=1;b=2;c=(a+b)/10;得到c将会是0.0000实际上这计算应该是c=float((a+b)/10);实际上是先整数计算(a+b)/10，此时的输出实际上是被截去了小数部分，再转化为float数，修改程序应该是int a；int b;float c;a=1;b=2;c=(a+b)*...
在C语言里，float类型的量和int类型的量运算时，这个表达式值的数
赫的BLOG
03-15 1万+
原文地址： http://zhidao.baidu.com/question/239807303.html 比方说：2.5+3=5.500000 //向上转型，因为float型精确度比int型高3.5+6.4=9.900000 //两个都是float型结果还是float 型'a'+'b'='ab'//两个字符相连变成了字符串char a='a';char b='b';a+b =97+98=1
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值