最近在调一个振动变送器,输出信号是4-20mA的电流。最终计算出来的振动值是个浮点数,虽然振动值变化不大,可能最大也就±0.1的跳动,但是用万用表观察电流的时候,感觉电流跳来跳去的。因为浮点数后面又好多位小数,稍微一遍电流立马跟着变了。
尝试着保留两位小数,发现保留两位小数电流还是跳动蛮大的。下面的数据
可以看到,就算振动值在9.81-9.89之间跳动,电流也会在11.848-11.912之间跳动。
要是保留1位有效数字的话,可以看到在9.81-9.89之间的振动值,都变成了9.8,输出电流也变成了11.84。这样虽然电流值比之前稳定多了,但是误差也变大了。加入振动值为9.89时,保留一位有效数字也变成了9.8,这一步就把误差增加了0.09mm/s。
在保留一位有效数字的基础上,再加一个四舍五入,如图上所示,这样可以把误差缩小到0.05mm/s。
反正比原来好了一丢丢。嘿嘿。