CATIA中数据精度处理

原创 2015年07月08日 15:45:45

一、长度四舍五入取整

例:L = 20.1mm

       20mm = int (L / 1m * 1000 + 0.5) * 1mm

       L = 20.7mm

       21mm = int (L / 1m * 1000 + 0.5) * 1mm

二、长度向下取整

例:L = 20.1mm

       20mm = floor (L / 1m * 1000) * 1mm

三、长度向上取整

例:L = 20.1mm

       20mm = ceil (L / 1m * 1000) * 1mm

四、长度按一定精度向上进位

例:L = 20.1mm

       R = 0.5(精度)

       20.5mm = ceil (L / 1m * 1000 / R) * 1mm * R

       L = 20.7mm

       R = 0.5(精度)

       21mm = ceil (L / 1m * 1000 / R) * 1mm * R

 

五、长度按一定精度向下进位

例:L = 20.1mm

       R = 0.5(精度)

       20mm = floor (L / 1m * 1000 / R) * 1mm * R

       L = 20.7mm

       R = 0.5(精度)

       20.5mm = floor (L / 1m * 1000 / R) * 1mm * R

 

注:CATIA中长度的默认单位为1m,所以,要乘以1000,对单位进行转化

版权声明:本文为博主原创文章,未经博主允许不得转载。 举报

相关文章推荐

Catia使用LMT LicManager系统后的效果数据分析

莱曼特公司的LMT LicManager许可证监控管理系统依照达索公司的CATIA软件的license特性研发,可以兼容CATIA各个不同版本的功能使用。 LMT LicManager系...

Excel保存到数据库时数据精度的处理

 问题描述 润乾报表能够将Excel保存到数据库的相应接口,方便客户将Excel中的数据导入数据库。但是在实际应用中会遇到这样一个问题:对于Excel中数值型数据,如果对其设置了小数位数(如2...
  • RQlyc
  • RQlyc
  • 2016-11-29 16:45
  • 340

我是如何成为一名python大咖的?

人生苦短,都说必须python,那么我分享下我是如何从小白成为Python资深开发者的吧。2014年我大学刚毕业..

iOS - Json解析数据精度丢失处理

原文 http://blog.sina.com.cn/s/blog_92aba1430102wakk.html 开发中处理处理数字、价格金额等问题时, 后台经常返回float类型, 打印或转成NSS...

Vivado HLs中任意精度数据类型的处理方法

我们在设计硬件时,它往往是要求更精确的位宽。例如,一个filter的输入是12位和一个累加器的结果只需要一个最大范围为27位。然而对于硬件设计来说,使用标准的C数据类型会造成硬件成本的浪费。这就会造成...

java.math.BigDecimal 对浮点数据的精度处理

原文地址:JAVA中在指定精度下四舍五入作者:Curry'sSpri BigDecimal类说明:该类可以计算小数大数的加减乘除操作,最重要的是他可以帮我们对浮点型数据进行精度控制,所以,四...
返回顶部
收藏助手
不良信息举报
您举报文章:深度学习:神经网络中的前向传播和反向传播算法推导
举报原因:
原因补充:

(最多只允许输入30个字)