uint和int相乘，如果int为负，则相乘的结果非常大

最新推荐文章于 2023-07-03 19:26:17 发布
最新推荐文章于 2023-07-03 19:26:17 发布
阅读量2.8k 收藏 2
点赞数 3
分类专栏： C++ 文章标签： float 编程
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/normallife/article/details/4722276
版权

uint和int相乘，如果int为负，则相乘的结果非常大 。

unsigned int leftVal = 1;

int   rightVal = -1;

float result = leftVal * rightVal ;

 

the result is : 4.29497e + 009   .  并不是你想要的“-1”结果。

 

但是如果改为：

 

int leftVal = 1;

int rightVal = -1;

float result = leftVal * rightVal;

 

the result is : -1    . 得到你想要的-1的结果。

 

编程的时候要当心这种情况，特别是由于此，而引起的bug .

 

 

 

normallife
关注
  • 3
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
python将二进制转换为32位浮点数float/两个16位整数(高位字/低位字)Uint16转换为32位浮点数float
dlwlrma_516的博客
09-02 3387
python将二进制转换为32位浮点数float/两个16位整数(高位字/低位字)Uint16转换为32位浮点数float
Matlab的基本数据类型和变量操作.docx
08-05
例如，`int8(10)` 和 `uint16(500)` 分别表示有符号8位整数和无符号16位整数；`single(3.14)` 和 `double(2.718)` 分别代表单精度和双精度浮点数。此外，Matlab 还支持复数，如 `2 + 3i`。 - 字符型：字符型数据由...
int与uint转换过程中值的变化
活着
02-02 3万+
int类型的数据转化为uint类型：因为int是带符号的类型，当int是正数时，int类型数据转化为uint时不发生改变。当int是负数时，int类型数据转化为uint类型时，值就要发生变化。但转化的过程并不是去掉前面的负号，例如int a=-1;uint b=(uint)a;这时b的结果并不是1；而是4294967295；我们知道在计算机中存储数据都是用补码来存储的，
关于uint与int
Wadejr的专栏
04-09 1840
关于uint与int，其实大家对他们的差别已经十分清楚，但仍旧容易在使用中犯一些错误。     比如最近在2812编程时，对陀螺的采集结果一直存在问题，深入研究后发现是uint与int的使用导致的。     如果使用中存在求和（滑动滤波求和）或乘除（求平均）运算，建议还是使用有符号的比较好，否则容易在求和或乘除时直接改变了符号，而且容易在求和中超出uint的范围。
Int相乘为负数问题
qq_33515628的博客
05-27 1985
记录一次int类型相乘最后变成负数的问题。 int a = 60000000; int b = 36; 当a*b 你会发现得当一个负数。 这是因为int（int 32）及2的32次方 取值范围 -2,147,483,648~2,147,483,647 a*b超过这个范围 int就会溢出，得到相乘的值就是一个负数 对于较大的值，可以使用long替换int long也就是Int64，取值范围是-9223372036854775808~9223372036854775807 这样一般不会超出了 .
[C语言]unsigned int与 int
out_sider的专栏
12-01 1666
有时间记录一点东西。 上周在食堂吃饭时，遇到师弟，提到一个与unsigned相关的问题，大致意思是表达式运算中有unsigned类型，导致结果跟预期结果不一致（预期结果为负数，结果实际为一个大整数）。晚上吃饭回去看了看他发的问题。很快就回复他因为unsigned int 的原因导致表达式中所有的int型都提升为unsigned int。后来就这个问题，又继续追问了几个。 后来的讨论中，查了《C
二 .C语言的数据类型
qq_67813164的博客
07-03 3548
C语言提供了多种数据类型，可以用于存储不同类型的数据。以下是C语言中常用的一些数据类型：什么是数据？有用的信息称为数据。
C++类各种类型转换_数据类型的相互转换_
09-29
例如，较小的数据类型（如int）可以被赋值给较大的数据类型（如long long），这被称为提升（Promotion）。同样，常量表达式或字面量可以被转换为任何兼容的类型。然而，需要注意的是，隐式转换可能会导致精度丢失或...
double类型精度丢失；double转换到64位整数
09-29
2. **运算过程**: 当两个浮点数相加、相减、相乘或相除时，结果可能会因为浮点运算的舍入规则而失去一些精度。 3. **类型转换**: 将`double`类型转换为其他数值类型，比如`int64`，如果`double`的值超出了整型的...
使用C＃对两个图像进行遮罩（乘法）
04-06
// 将较小的图像调整为与较大的图像相同的大小 } ``` 接下来，我们将创建一个新的`Bitmap`对象，用于存储结果图像： ```csharp Bitmap resultImage = new Bitmap(sourceImage.Width, sourceImage.Height); ``` ...
Matlab 数据类型PPT教案学习.pptx
09-30
例如，int8类型能表示的整数范围为-128到127，而uint8类型则为0到255。 在进行整型运算时，相同类型的整数相乘结果仍为同类型整数。整型数据可以与双精度标量进行数值运算，但结果仍保持为整型，运算过程中会保持...
MATLAB教程及实训曹弋PPT学习教案.pptx
10-07
1. **整型**：MATLAB提供了多种整数数据类型，包括无符号和有符号的，例如`uint8`、`int8`、`uint16`、`int16`、`uint32`、`int32`、`uint64`和`int64`，它们分别对应不同位数的整数，具有不同的表示范围。...
matlab学习笔记(入门).pdf
09-14
在MATLAB中，处理图像的数据类主要包括double、uint8、unit16、unit32、int8、int16、int32、single、char以及logical等。其中，double类是最通用的数值计算类型，它支持浮点数运算，适用于精确计算。对于图像处理，...
C++高精度算法示例
12-14
在C++中，由于标准库提供的`<cstdint>`类型如`int64_t`或`uint64_t`等无法满足非常大的整数运算需求，程序员需要自定义数据结构和算法来实现高精度计算。本示例将重点介绍基于一位一存的高精度加法、减法、乘法以及...
matlab学习笔记(入门) (2).pdf
09-14
5. **im2uint8()** 和 **mat2gray()**：这两个函数配合使用，可以将图像转换为8位无符号整数，并将其值限制在0到1之间，适合于显示。 6. **log()** 和 **exp()**：进行对数和指数运算，常用于对比度增强和动态范围...
int、uint类型的比较与加减
Nine_CC的博客
02-09 2777
int与uint比较时会把int转换成uint，一个负的int转换成uint会溢出。 vector.size()的返回值类型是 size_type ，也就是容器中 typedef 之后的 size_t，而 size_t 的类型是：unsigned int
两个整形相乘溢出问题
weixin_45097458的博客
10-23 2545
先看一个例子，将两个32位的Int型数相乘，将结果赋给long型变量。 long a=111111 * 111111; //结果是-539247567 乍一看好像没毛病，但这是个坑，慎跳！相乘以后的值会溢出。 原因： ????对于编译器来说，int和int相乘，结果也是先存在int中，跟被赋给long还是longlong数据类型的字段没有关系。 解决办法： 想要不溢出，就要把两个32位数强制转换成lo...
uint和int的区别
热门推荐
janny_flower的博客
07-17 9万+
总结： int是带符号的，表示范围是：-2147483648到2147483648，即-2^31到2^31次方。 uint则是不带符号的，表示范围是：2^32即0到4294967295。 uint可以使用十进制，二进制，十六进制。 和long,ulong,float,double,decimal等预定义可以进行隐式转换。但是需要注意值是否在可转换的范围内，不然会出现异常。 The Uin...
uint32_t与uint16_t的相乘结果是uint32_t还是uint16_t
最新发布
12-12
根据C/C++标准，两个无符号整数相乘的结果是无符号整数。因此，uint32_t与uint16_t的相乘结果是uint32_t。 以下是一个简单的C++代码示例，演示了uint32_t与uint16_t的相乘结果是uint32_t： ```cpp #include <iostream> #include <cstdint> int main() { uint32_t a = 65535; uint16_t b = 65535; uint32_t c = a * b; std::cout << "a * b = " << c << std::endl; // 输出：a * b = 4294836225 return 0; } ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值