机器学习
文章平均质量分 67
梦中_破
这个作者很懒,什么都没留下…
展开
-
机器学习-fp16表示
公式引入存储方式:1位符号位+5位指数位+10位尾数位,共16位,内存占2个字节sign:符号位exponent:指数位(阶码)fraction:小数位(尾数)阶码常用补码或移码表示尾数常用原码或补码表示fp16表示为:(1.0+fraction)中的1规格化值:小数点前只有1位数,且非0例:3.1415 * 10^2, 0.31415 * 10 ^ 3, 31.415 * 10^(-1)都表示314.15,其中3.1415 * 10^2被称为规格化值,后两者为非规格化值。对原创 2022-04-30 21:50:17 · 11624 阅读 · 1 评论 -
机器学习-int转fp16
机器学习-int转fp16原创 2022-03-18 20:34:40 · 1996 阅读 · 0 评论