c科学计数法转化成浮点数_算法工程师应该了解的浮点数知识

“强基固本,行稳致远”,科学研究离不开理论基础,人工智能学科更是需要数学、物理、神经科学等基础学科提供有力支撑,为了紧扣时代脉搏,我们推出“强基固本”专栏,讲解AI领域的基础知识,为你的科研学习提供助力,夯实理论基础,提升原始创新能力,敬请关注。

作者: 知乎-Dounm

地址:https://www.zhihu.com/people/niu-chong

作为一个算法工程师,工作中经常会用到浮点数相关的知识,比如要对比两个浮点数的误差,再比如混合精度在 float 和 half 之间做变换。 因此,有必要了解一些浮点数相关的知识。

01

浮点数的表示

根据国际标准IEEE 754,任意二进制浮点数都可表示为abb6c5f0-6c48-eb11-8da9-e4434bdf6706.svg

  • b2b6c5f0-6c48-eb11-8da9-e4434bdf6706.svg :符号位。 b6b6c5f0-6c48-eb11-8da9-e4434bdf6706.svg 代表正数, bab6c5f0-6c48-eb11-8da9-e4434bdf6706.svg 代表负数。

  • bfb6c5f0-6c48-eb11-8da9-e4434bdf6706.svg :有效数字,大于1,小于2

  • c5b6c5f0-6c48-eb11-8da9-e4434bdf6706.svg :指数位

举例:

  • dcb6c5f0-6c48-eb11-8da9-e4434bdf6706.svg 的二进制是 e4b6c5f0-6c48-eb11-8da9-e4434bdf6706.svg ,则 e8b6c5f0-6c48-eb11-8da9-e4434bdf6706.svg

  • ebb6c5f0-6c48-eb11-8da9-e4434bdf6706.svg 的二进制是 f3b6c5f0-6c48-eb11-8da9-e4434bdf6706.svg ,则 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值