mostetr0508的博客

原创 在对数字（小数）进行乘法运算后，数据显示不正确

项目场景：提示：这里简述项目相关背景：在对拿到的数据需要进行运算再进行显示。问题描述提示：这里描述项目中遇到的问题：在对拿到的数据需要进行运算再进行显示时，直接进行乘法运算，显示的数据和预期不一致，小数点后多了很多位小数。—原因分析：提示：这里填写问题的分析：在网上查看资料后发现是浮点数运算的精度问题：在内存运算中，计算机首先将浮点数从十进制转换为只有0和1的二进制再转换为十进制，在转换的过程中便出现了偏差。当然，出现数据运算后不正确的还有其他运算。以上仅为个人理解，具体请参考别