在fluent计算中,经常会遇到 floating point exception的报错,让人很头疼。查找了一下,相关网上的原因,总结了这篇文章。内容不全部为原创。
1.1浮点数floating point
既然说了是浮点数溢出,那么先来看下什么是浮点数。我们都知道,fluent用的C语言写的。好的,我们来回顾下在C语言里,数据类型有哪些。
表1 C语言中的数据类型
类型 |
操作数类型 |
存储长度 |
char |
整数/字节 |
8 |
short |