将8位的有符号数强转64位的无符号数的坑

最新推荐文章于 2024-03-27 16:42:06 发布
最新推荐文章于 2024-03-27 16:42:06 发布
阅读量1.5k 收藏 1
点赞数
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/anliayx/article/details/80054784
版权
在大数据分析中遇到数值异常增大问题，根源在于8位有符号数通过movsx指令扩展到64位无符号数时，高58位被符号位填充。理解补码表示负数和movsx、movzx指令的区别。解决方案是先将8位有符号数转换为无符号类型，再进行64位扩展，确保高位被零填充。
摘要由CSDN通过智能技术生成

今天在做公司大数据分析时遇到个坑，某些数据莫名其妙变得特别大：


 最终定位出原因在这个强转这里


当8位有符号数扩展为64位无符号数时，底层汇编实际上使用的是movsx带符号扩展指令，意思就是扩展的那些位都用符位来补全，这里就造成了value的高58位全为1，从而值异常大。

我们再来做个简单测试：


最低0.47元/天 解锁文章
anliayx
关注
C语言有符号数和无符号数进行比较的陷阱
chenxizhan1995的博客
11-24 1209
当有符号数和无符号数比较的时，如果有符号数的类型低于无符号数的类型，会发生类型提升，要当心。 只要有一个操作数是无符号数，另一个也会被转成无符号数，这种说法是不对的；理由是，实际的转换是按类型大小关系进行的，但并不是所有的无符号数都高于有符号数。long long 类型就高于 unsinged int 类型。 #include <stdio.h> int main(void) { /...
Mat数据类型转换 8位转64位
Ring__Rain的博客
06-12 1024
Mat image1 = imread("C:\\Users\\aa\\Desktop\\6inch\\wafer1.png", 0); Mat fImg; image1.convertTo(fImg, CV_64FC1, 1, 0); //1、0分别是比例因子，y = a*x + b
将字符串的前八个字节转换为__int64位整数
qinwei4072880的专栏
10-29 1003
__int64 CCtpKernel::ColumnStringToInt64(std::string& strName) { __int64 nRet = 0; const char* p = strName.c_str(); char* s = (char*)&nRet; for (int i = 0; i < 8 && *p != '\0'; i++) { *s = *p;
VC++中用8个字节拼成一个64位整数
shawnqduzgm的博客
06-25 1480
因为要向产品内写入RTC，而RTC是8个字节的，由于需要对写入产品的RTC进行Check，因此需要将接收到的8个字节拼成我们需要的64位整数。百度后，找到如下解决方案。参考 ： https://bbs.csdn.net/topics/390759606UINT64 LongFromChar(const UINT8 *pInput){    UINT64 Templong;    Templong ...
C语言编程 8字节的数据转换为uint64_t类型数据
professionalmcu的专栏
06-24 4382
有2种方式可以实现： 第一种方式： 数据类型强制转换，需要注意平台是大端还是小端,如果平台是大端，那么字节数组存放的字节顺序是高字节在前；如果平台是小端，那么字节数组存放的字节顺序是低字节在前。 此例程需要在小端模式的平台上运行 /** * @brief None * @param None * @retval None */ int main( void ) { uint8_t ByteDatasLittleEnd[8] = {0x06, 0x4E, 0xE7, 0.
有符号数强转无符号数的意义
07-12
有符号数强制转换为无符号数的意义在于改变数据的解释方式，可以影响数据的范围和表示方式。下面列出了一些使用有符号数强制转换为无符号数的常见情况： 1. 扩展数值范围：有符号整数类型的范围是包括负数和正数的...
有符号数和无符号数比较强转
05-19
有符号数使用最高位表示符号（0表示正数，1表示负数），而无符号数则不考虑符号位，将所有位都用于表示数值。 当有符号数和无符号数进行比较时，需要进行强制类型转换。具体来说，在执行比较操作时，编译器会将有...
matlab无符号十进制到有符号十进制的转换
07-20
无符号10进制转换为有符号的十进制，不同于c语言的编写方式。
有符号数到无符号数转换时遇到的问题
weixin_30335353的博客
06-27 155
　　最近在调试问题时发现，在调用API读写一个地址时，发现只要访问这个地址程序就会异常，使用trace32跟踪发现，存放地址的X0寄存器的值的低32位是对的，就是我们期望的地址，但是高32位全部为1，对应的汇编指令是ldr w1, [x0]，从而导致CPU访问了一个不存在的地址。 　　经过分析发现，这个API的形参中存放地址的变量的数据类型是int，但是实际访问地址用的却是unsign...
常用数据转换，8位转16位/32位函数，复制就能用
随风@飘扬
01-03 1万+
        下面包含8 转 32,32转8,8转16,16转8,16转32,32转16等单片机内常用的数据类型转换，直接复制就可使用，感觉好用可以加关注，以后会经常更新一些常规好用的小代码。  1、8 转 32 /************************* 8位转32位 Len： 数据长度 *Data：数据 说明：剩余位补0； *************************...
关于对无符号和有符号的8位二进制数的理解
最新发布
qq_64025313的博客
03-27 357
首先要明白一个基本概念，那就是十进制的数如何表达二进制数，8 4 2 1的方法大家应该都知道吧，简单点来说，8 4 2 1这个方法可以快速的表达任何的4位二进制的数，看下面。1000 0000就是128，因为第一步原码里面的1000 0000的最高位是1，所以第二步得到的数1000 0000就是-128。那么为什么1000 0000代表的是-128，首先要明白方法，原码取反然后加1，哎，这些不重要，什么原码补码的，直接看例子。最高位是1代表的是负数，最高位是0代表的是正数。话不多说直接干货，请耐心看完！
C001-C语言数据高低位转换（8-16-32位）
weixin_43190801的博客
11-10 3080
C语言进行数据高位和低位转换
c语言常用易忘知识点
weixin_45889110的博客
04-11 2359
uint8是8位无符号整型，uint16是16位无符号整型。 整型有无符号（unsigned）和有符号（signed）两种类型，在默认情况下声明的整型变量都是有符号的类型（char有点特别），如果需声明无符号类型的话就需要在类型前加上unsigned。在一些不可能取值为负数的时候，可以定义为unsigned，在一些底层的嵌入式编程的数据一般都是无符号 1、u8：u8表示无符号char字符类型 - 2、u16：u16表示无符号short短整数类型。 - 3、u32：u32表示无符号int基本.
汇编两个8位无符号数相加
热门推荐
Fpthink
03-07 1万+
;两个8位无符号数相加 ;在8086/8088CPU中，只有8位或16位运算指令，没有32位和64位以上的运算指令 ;要进行64位加法运算，可以利用16位加法指令分别相加4次来实现 ;这个问题比较简单，无须画程序流程图 ;该汇编程序的基本框架至少要两个段，即数据段和代码段，数据段中至少定义3个变量，即 ;两个加数变量N1,N2，还有一个和变量SUM，都是DW(字类型)类型。和变量SUM尚属未知，故
8位无符号和8位有符号转化为更高字节类型的问题
weixin_34179762的博客
05-19 777
main() { unsigned char uch=0xff; //数值为255 char ch=0xff; //数值为-1 int i=0; i=i+uch; printf("%x\n",i); i=0; ...
将8个内存字节转为浮点数(Double)
禾苗雨的专栏
01-12 5626
{函数功能：将8个内存字节(低位在前，高位在后)转为浮点数 Double创建人：skyjacker网址:Http://blog.csdn.net/skyjackerEmail:hemiaoyu At gmail.com创建日期：2007-01-12函数根据：IEEE标准754(4个内存字节转为Single同理)双精度:N共32位，其中S占1位，E占11位，M占52位。公式：n=(-1)^s * 2
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值