数据解析中 / %的应用

文章讲述了在C语言编程中,作者在处理数据解析时遇到的两个错误:一是误将除法运算符当作取整,实际上C语言中`/`是浮点除法,`%`才是取余数;二是十六进制转换为十进制时,高字节应乘以16而非256。这两个错误导致了打印出的值不正确。
摘要由CSDN通过智能技术生成

 数据解析的函数,犯了一个低级错误,用数学思维了,在c语言中 / 是取整 % 是取余数

c语言在进行不同类型的加法时会将低精度的自动转换为高精度的类型进行计算。
例如:288/0x0a  输出28

           288/10.0 输出28.8000

void DataAnalysis()
{
	tem=(rcv_buf[3]*16+rcv_buf[4])/10.0;
	printf("tem is %.2f\r\n",tem);
	hum=(rcv_buf[5]*16+rcv_buf[6])/10.0;
	printf("rcf_buf5 %x",rcv_buf[5]);
	printf("rcf_buf6 %x",rcv_buf[6]);
	printf("hum is %.2f\r\n",hum);
}

 结果打印的值有错误

 

2.十六进制转为十进制数时高字节* 256 不是16

void DataAnalysis()
{
	tem=(rcv_buf[3]*256+rcv_buf[4])/10.0;
	printf("tem is %.2f\r\n",tem);
	hum=(rcv_buf[5]*256+rcv_buf[6])/10.0;
	printf("hum is %.2f\r\n",hum);
}

 

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值