浮点型精度分析

科学计数法
1.233E23,E大概是exponent指数,阶码。
分为三部分,整数部分为1的因数,E是进制阶数,后边是指数
二进制和十进制转换
二进制转10进制
自然语言中以十进制为主,将十进制作为基坐标更加容易理解
例
二进制  1.1 ===> 十进制   加权系数展开
//整数部分
1*2
//小数部分
1*2
//结果
10进制转二进制
十进制和二进制转换分为小数部分和整数部分
十进制2.5 ====>二进制
//整数部分,除2取余,逆序排列
    2|2      ---1
     ---
     0
//小数部分,乘2取整,顺序排列
2*0.5 =1.0   ----1
浮点数内存模型
- 内存模型
符号位| 指数位 | 尾数部分

- 原理--单精度为例
    - 仍以十进制为基坐标分析,先将十进制数据转换到二进制科学计数。如 1.0101*2^13.
    - 23位尾数表示24位精度原理, 因为整数总是1,不用表示前面的整数1,表示精度的时候把他加上就24了。
    - 然后十进制9的二进制表示是1001,大概4位二进制表示一位十进制有效数字,那么单精度大概可以表示十进制6位有效数字
- 指数位基数???
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值