3.计算机进行小数运算时出错的原因——摘抄笔记

3.1 将0.1累加100次也得不到10

3.2 用二进制表示小数

只需将各数位数值和位权相乘,然后再将相乘的结果相加即可实现。
title

3.3 计算机运算出错的原因

有一些十进制数的小数无法转换成二进制数。
小数点后4位能够用二进制数表示的数值二进制数是连续的,十进制数是非连贯的
title

因为无法正确表示的数值,最后都变成了近似值。
计算机这个功能有限的设备,是无法处理无限循环小数的。
因此,在遇到循环小数时,计算机就会根据变量数据类型所对应的长度将数值从中间截断或者四舍五入。

3.4 什么是浮点数

  • 浮点数的表现形式。由符号、尾数、基数、指数四部分构成
    title
  • 浮点数的内部构造(IEEE的规定)
    title

3.5 正则表达式和EXCESS系统

EXCESS系统表现是指,通过将指数部分表示范围的中间值设为0,使得负数不需要用符号来表示。
单精度浮点数指数部分的EXCESS系统表现
title

3.6 在实际的程序中进行确认

3.7 如何避免计算机计算出错

  • 回避策略
  • 小数转换成整数
  • BCD(Binary Coded Decimal)一种使用二进制表示十进制的方法
    ##3.8 二进制数和十六进制
  • 如果位数太多,看起来就比较麻烦
  • 通过使用十六进制数使位数变短
    title
  • 小数点后的二进制数的4位也相当于十六进制数的1位
    17)]
  • 小数点后的二进制数的4位也相当于十六进制数的1位
    title
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值