函数的原型:最后一个参数为int型的指针
int WINAPI DeData(int sConnect,int keyVersion,int keyIndex, int divTimes,unsigned char *divData,unsigned char *ivData,int enDataLen,unsigned char *enData,unsigned char *plainData,int *plainDataLen);
在调用此接口时,定义了一个无符号16位整型的变量,将16位的指针强制转换为32位的,最后会报错
Run-Time Check Failure #2 - Stack around the variable ‘usPlainBufLen’ was corrupted,
//iRet = DeData(iConnectHandle, iTerKeyVer, 0, 1, szTerSerialNo,szIvData, usEnDataLen, pDmsEncrypt->rxBuf+6,pPlainBuf,(HT_INT*)&usPlainBufLen);
后来给入正确的类型的地址,就不报错了。
iRet = DeData(iConnectHandle, iTerKeyVer, 0, 1, szTerSerialNo,szIvData, usEnDataLen, pDmsEncrypt->rxBuf+6,pPlainBuf,&iPlainBufLen);
原因:把2个字节的地址传给操作4个字节的函数,它就操作了另外的2个字节,这样,原来usPlainBufLen的"变量信息栈"所占有的字节就被破坏了,导致出错,这就是要注意,不能将小字节变量向大字节变量转换,但是可以将大字节变量向小字节转换。大字节变量向小字节转换可能导致数据失真,所以写代码时,尽量使用规范的字节数,减少不必要的麻烦。
以上内容若有误,麻烦联系我更正,QQ:470068912.加我时备注一下。
强制指针地址类型转换导致的问题:Run-Time Check Failure #2 - Stack around the variable 'a' was corrupted
最新推荐文章于 2022-11-03 11:11:52 发布