“强基固本,行稳致远”,科学研究离不开理论基础,人工智能学科更是需要数学、物理、神经科学等基础学科提供有力支撑,为了紧扣时代脉搏,我们推出“强基固本”专栏,讲解AI领域的基础知识,为你的科研学习提供助力,夯实理论基础,提升原始创新能力,敬请关注。
作者: 知乎-Dounm地址:https://www.zhihu.com/people/niu-chong
作为一个算法工程师,工作中经常会用到浮点数相关的知识,比如要对比两个浮点数的误差,再比如混合精度在 float 和 half 之间做变换。 因此,有必要了解一些浮点数相关的知识。
01
浮点数的表示
根据国际标准IEEE 754,任意二进制浮点数都可表示为
:符号位。 代表正数, 代表负数。
:有效数字,大于1,小于2
:指数位
举例:
的二进制是 ,则
的二进制是 ,则