fp32和int8模型的区别_请问分别使用uint8和int8的数据类型会给深度学习过程带来什么影响?两者有何区别?...

这个和深度学习无关,纯计算机基础问题。

int8的取值范围为[-128,127]

int8占1个字节,1字节(byte)占8位(bit)

其中最高位代表符号位 1-负号;0-正号

那么最大数值的二进制为:

0 1 1 1 1 1 1 1

换算成10进制为 从低位到高位开始计算

0 1 1 1 1 1 1 1

0*2^7 + 1*2^6 + 1*2^5 + 1*2^4 + 1*2^3 + 1*2^2 + 1*2^1 + 1*2^0

0 + 64 + 32 + 16 + 8 + 4 + 2 + 1

= 127

最小数值的二进制应与最大数值相反

1 0 0 0 0 0 0 0

换算成10进制为 从低位到高位开始计算

1 0 0 0 0 0 0 0

1*2^7 + 0*2^6 + 0*2^5 + 0*2^4 + 0*2^3 + 0*2^2 + 0*2^1 + 0*2^0

128 + 0 + 0 + 0 + 0 + 0 + 0 + 0

= 128

另外,uint8的范围为[0,255]

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值