float32, 二进制表示
-
float32在内存中的表示
float32转内存 -
arm,float16测试
tx2上采用Cortex-A57 arm处理器,好像是支持float16的,这里简单测试一下
#include<iostream>
#include<limits.h>
#include<arm_neon.h>
#include<arm_fp16.h>
int main(void)
{
__fp16 a = 3.1415;
printf("a:%f \n", a);
printf("unsigned int:%d \n", sizeof(__fp16));
}
输出
a:3.140625
unsigned int:2
解释
- float16是2字节,16bit
- 这里解释一下为什么float32的3.1415,自动转换到float16时就是3.140625了。
这里float32,3.1415转 float16 的字节为0100001001001000
,没有在线转换工具可以验证。。。