两个多精度十进制数加法程序设计_宏程序基础:精度运算的方法

同任何数学计算一样, 运算的误差是不可避免的,用宏程序运算时必须考虑用户宏程序的精度。用户宏程序处理数据的浮点格式为: Mx2E。

每执行一次运算,便产生一次误差,在重复计算的过程中,这些误差将累加。FANUC Oi 运算中的误差精度见表2-10。

82ff08d4d79f1dbed10856bb7b623154.png

注意:如果SIN、COS或TAN函数的运算结果小于10*或由于运算精度的限制不为0的话,设定参数No.6004#1为1,则运算结果可视为0.

1.相对误差取决于运算结果。

2.使用两类识差的较小者。

3.绝对误差是常数。而不管运算结果。

4.函数TAN执行SN/COS.

说明:

(1)加减运算由于用户宏程序的变量值的精度仅有8位十进制数,当在加减运算中处理非常大的数时,将得不到期望的结果。

例如:当试图把下面的值赋给变量#1和#2时:

#1=9876543277777.777

#2= 9876543210123.456

变量值实际上已经变成:

#1=98764300000.000

#2=9876543200000.000

此时,当编程计算#3=#1-#2时,其结果#3并不是期望值67654.321, 而是#3=100000.000 ,显然误差较大,实际计算实际结果其实与此还稍有误差,因为系统是以二进制执行的。

(2)逻辑运算, 即使用条件表达式EQ, NE. GT. GE. LT, LE时,也可能造成误差,其情形与加减运算基本相同。

例如: IF [#1EQ#2]的运算会受到#1和#2的误差的影响,并不总是能估算正确,要求两个值完全相同,有时不可能,由此会造成错误的判断,因此应该改用误差来限制比较稳妥, 即用IF [ABS[#1- #2] LT0 .001]代替上述语句,以避免两个变量的误差。此时,当两个变量的差值的绝对值未超过允许极限(此处为0.001),就认为两个变量的值是相等的。

(3)在三角函数运算中会发生绝对误差,它不在10(-8)之内,所以注意使用三角函数后的积累误差。由于三角函数在宏程序的应用非常广泛,特别在极具数学代表性的参数方程表达上,因此必须对此保持应有的重视。

五金工具_acme螺纹刀片不锈钢钢件五金工具非标订制 - 阿里巴巴

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值