streamluan的博客

CATIA二次开发笔记,技术暂时较菜,欢迎来喷...

CATIA中数据精度处理

一、长度四舍五入取整

例:L = 20.1mm

       20mm = int (L / 1m * 1000 + 0.5) * 1mm

       L = 20.7mm

       21mm = int (L / 1m * 1000 + 0.5) * 1mm

二、长度向下取整

例:L = 20.1mm

       20mm = floor (L / 1m * 1000) * 1mm

三、长度向上取整

例:L = 20.1mm

       20mm = ceil (L / 1m * 1000) * 1mm

四、长度按一定精度向上进位

例:L = 20.1mm

       R = 0.5(精度)

       20.5mm = ceil (L / 1m * 1000 / R) * 1mm * R

       L = 20.7mm

       R = 0.5(精度)

       21mm = ceil (L / 1m * 1000 / R) * 1mm * R

 

五、长度按一定精度向下进位

例:L = 20.1mm

       R = 0.5(精度)

       20mm = floor (L / 1m * 1000 / R) * 1mm * R

       L = 20.7mm

       R = 0.5(精度)

       20.5mm = floor (L / 1m * 1000 / R) * 1mm * R

 

注:CATIA中长度的默认单位为1m,所以,要乘以1000,对单位进行转化

阅读更多
版权声明:本文为博主原创文章,未经博主允许不得转载。 https://blog.csdn.net/streamluan/article/details/46804067
个人分类: CAA
想对作者说点什么? 我来说一句

没有更多推荐了,返回首页

不良信息举报

CATIA中数据精度处理

最多只允许输入30个字

加入CSDN,享受更精准的内容推荐,与500万程序员共同成长!
关闭
关闭