![](https://img-blog.csdnimg.cn/20201014180756913.png?x-oss-process=image/resize,m_fixed,h_64,w_64)
编程算法
云清燕飞
自动化2数字化
展开
-
SCL中常量计算注意事项
有类型和无类型常量常量值有指定的表示法,具体取决于数据类型和数据格式,分为有类型和无类型的表示法。数学函数中运算有类型和无类型常量一定要慎重,否则可能会发生不需要的隐式转换,从而导致生成不正确的值。看下面的例子:DInt类型: Variable_DINT := Int# 2 +50000;计算结果: Variable_DINT= -15534;原因分析:有类型常量的数据类型决定了无类型常...原创 2020-03-05 10:43:22 · 290 阅读 · 0 评论 -
关于浮点数(实数)运算精度
计算机内部如果并不是所有的浮点数运算都能准确的计算结果,如果再设计程序的时候没有注意到精度问题,将酿苦果,如下算式y = a + b - c赋值如下float a=200 000 000;float c=200 000 000;float b=2;计算机运算后额结果是0.WHY ??主要是没有准确了解计算机内部对于浮点数的计算原理,如下:“在加减浮点数时,将会调整指数。 因此在加...原创 2020-03-05 09:44:33 · 795 阅读 · 0 评论