昨晚遇见一个关于小数点的问题,排除一切定义的因素,因为在自定义程序里面的值是正确的,但是在增强里面的值是错误的,即使把lv_01 定义成了string类型,但是还是不对,结果直接扩大1000倍,如下:
原因与固定点算术有关,原理以及,解决办法请参考一下文章:
昨晚遇见一个关于小数点的问题,排除一切定义的因素,因为在自定义程序里面的值是正确的,但是在增强里面的值是错误的,即使把lv_01 定义成了string类型,但是还是不对,结果直接扩大1000倍,如下:
原因与固定点算术有关,原理以及,解决办法请参考一下文章: