decimal 在数采中的用途

浮点数精度损失问题

无论是 float 还是 double，都是不能精确进行二进制编码的，CPU计算时会产生浮点数偏移。

例子1  0.7/0.025 = 27.999999999999996

在计算机中， double 0.7和0.025 实际分别为:

0.6999999999999999555910790149937383830547332763671875

0.025000000000000001387778780781445675529539585113525390625

因此，他们相除也就得不到28 了。

例子2  9849*0.01 = 98.49000000000001

这是我在数采时遇到的，仪表数据一般是整型*倍率得到浮点数，然而我们直接用float/double经常会遇到浮点数漂移问题。

decimal类型

decimal 长128字节，同浮点型相比，decimal 类型具有更高的精度和更小的范围，28 到 29 位有效位足够工程中使用 。

数采时巧用decimal

对例子2进行修改：

decimal dm = 9849*(decimal)0.01;

double d = (double)dm;

此时d就不会漂移了。

最佳实践

数据采集后往往要做两年事：

1. 与源系统核对数据是否一致；

2. 存储数据。

由于工程数据精度一般也就小数点后3-6位，用double一旦漂移就出现了小数点后14位的怪异数据，不仅看起来让人困扰，在存储到像oracle这种用number(n,m)来表达m精度浮点数时，会出现截取误差，比如m=2时1.00有可能存成0.99。

因此，建议在整型转换为浮点数时经过decimal，避免浮点数漂移问题。