之前只是听说过,但是没遇到过,今天de到一个溢出bug。
具体是一个10的20次幂相乘,结果导致浮点数溢出。
结果显示出来是:1.#INF00(正溢出)或者是-1.#INF00(负溢出)。
二进制是0x7f800000(正溢出)0xff80000(负溢出)。
这个自己写个简单测试也可以得到。
之前只是听说过,但是没遇到过,今天de到一个溢出bug。
具体是一个10的20次幂相乘,结果导致浮点数溢出。
结果显示出来是:1.#INF00(正溢出)或者是-1.#INF00(负溢出)。
二进制是0x7f800000(正溢出)0xff80000(负溢出)。
这个自己写个简单测试也可以得到。