在做项目的时候,要保留5位小数,所以有行MATLAB代码
a=double(int16(b*10000))/10000;
这样梁成大错。
int16最大不能超过2^15;
int32最大不能超过2^32;
int64最大不能超过2^64;
因为有b的值为7.5,所以7.5*10000>2^15,所以最后得到的数据全是错的。
以后要注意哦,避免再犯
在做项目的时候,要保留5位小数,所以有行MATLAB代码
a=double(int16(b*10000))/10000;
这样梁成大错。
int16最大不能超过2^15;
int32最大不能超过2^32;
int64最大不能超过2^64;
因为有b的值为7.5,所以7.5*10000>2^15,所以最后得到的数据全是错的。
以后要注意哦,避免再犯