本文介绍了在Lumerical FDTD工程文件中如何实现保留小数有效位的操作，提供了两种方法，包括利用特定代码保留六位有效数字和通过类型转换来控制小数精度。
正文
在 Lumerical Script------ FDTD 工程文件无法使用 precision 一文中我们提及 FDTD 工程文件中无法使用 precision 脚本来实现保留小数有效位操作的原因。如何在能够在 FDTD 工程文件中实现保留小数有效位的操作呢？这里我们给出两种方法。
方法1
那么遇到需要保留有效位的情况该如何做呢？这里我们以保留六位有效数字为例。比如我们这里有两个很长的小数被放在 mode1 和 mode2 变量中，然后我们可以采用如下代码替代 precision 的功能：
mode1 = round(mode1 * 1e6) 
订阅专栏 解锁全文
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
