CATIA中数据精度处理

原创 2015年07月08日 15:45:45

一、长度四舍五入取整

例:L = 20.1mm

       20mm = int (L / 1m * 1000 + 0.5) * 1mm

       L = 20.7mm

       21mm = int (L / 1m * 1000 + 0.5) * 1mm

二、长度向下取整

例:L = 20.1mm

       20mm = floor (L / 1m * 1000) * 1mm

三、长度向上取整

例:L = 20.1mm

       20mm = ceil (L / 1m * 1000) * 1mm

四、长度按一定精度向上进位

例:L = 20.1mm

       R = 0.5(精度)

       20.5mm = ceil (L / 1m * 1000 / R) * 1mm * R

       L = 20.7mm

       R = 0.5(精度)

       21mm = ceil (L / 1m * 1000 / R) * 1mm * R

 

五、长度按一定精度向下进位

例:L = 20.1mm

       R = 0.5(精度)

       20mm = floor (L / 1m * 1000 / R) * 1mm * R

       L = 20.7mm

       R = 0.5(精度)

       20.5mm = floor (L / 1m * 1000 / R) * 1mm * R

 

注:CATIA中长度的默认单位为1m,所以,要乘以1000,对单位进行转化

版权声明:本文为博主原创文章,未经博主允许不得转载。

相关文章推荐

Catia使用LMT LicManager系统后的效果数据分析

莱曼特公司的LMT LicManager许可证监控管理系统依照达索公司的CATIA软件的license特性研发,可以兼容CATIA各个不同版本的功能使用。 LMT LicManager系...

iOS - Json解析数据精度丢失处理

原文 http://blog.sina.com.cn/s/blog_92aba1430102wakk.html 开发中处理处理数字、价格金额等问题时, 后台经常返回float类型, 打印或转成NSS...

Excel保存到数据库时数据精度的处理

 问题描述 润乾报表能够将Excel保存到数据库的相应接口,方便客户将Excel中的数据导入数据库。但是在实际应用中会遇到这样一个问题:对于Excel中数值型数据,如果对其设置了小数位数(如2...
  • RQlyc
  • RQlyc
  • 2016年11月29日 16:45
  • 399

iOS中处理计算精度要求很高的数据

举个栗子: 计算0.1*999999 看看会有什么结果? - (void)testDecimalNumber { double d1 = 0.01; double d2 = 999...

Vivado HLs中任意精度数据类型的处理方法

我们在设计硬件时,它往往是要求更精确的位宽。例如,一个filter的输入是12位和一个累加器的结果只需要一个最大范围为27位。然而对于硬件设计来说,使用标准的C数据类型会造成硬件成本的浪费。这就会造成...

java.math.BigDecimal 对浮点数据的精度处理

原文地址:JAVA中在指定精度下四舍五入作者:Curry'sSpri BigDecimal类说明:该类可以计算小数大数的加减乘除操作,最重要的是他可以帮我们对浮点型数据进行精度控制,所以,四...

高精度磁传感器PNI数据手册

  • 2015年07月23日 17:28
  • 984KB
  • 下载

数据采集的精度与分辨率考虑

  • 2013年05月29日 15:38
  • 104KB
  • 下载

JAVA基本数据类型范围和float、double精度问题

1.八中数据类型的分类如下:  第一类:整型 byte short int long 第二类:浮点型 float double 第三类:逻辑型 boolean(它只有两个值可取true false) ...
  • zc_ad
  • zc_ad
  • 2016年11月30日 09:56
  • 1343
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:CATIA中数据精度处理
举报原因:
原因补充:

(最多只允许输入30个字)