浮点数计算

最新推荐文章于 2022-04-10 20:23:37 发布
最新推荐文章于 2022-04-10 20:23:37 发布
阅读量333 收藏
点赞数
文章标签： 底层应用开发
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_38931903/article/details/114979169
版权

浮点数计算

计算 1.5 - 2.875

十进制表示 (1.5)10 + (-2.875)10

二进制源码表示(第一位是符号位, 后面两位为进位添加的, 后面的为小数位)

001.100000x20 + 101.0111000x21

二进制补码表示
001.100000x21 + 110.10010000x21

判断有是否有 0 数, 该例子中没有

对阶, 1.5 的阶数是 0, -2.875 的阶数是 1 , 0 -1 = -1
1.5 需要升阶处理, 如下
000.110000x21 + 110.10010000x21

计算尾数

AnumSM
加数1.5000.11000000
被加数-2.875110.10010000
结果-1.375111.01010000

格式化,
111.01010000x21
结果为负数, 转换为源码为
100.10110000x21
结果的阶位为 1 ,降阶位得
101.01100000x20
与-1.375 的二进制表示一样

jll_rogen
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
一探浮点数
gls_nuaa的博客
03-15 644
       浮点数是一种常用的表示数的方式，因小数点可以浮动得名。我们更关心的是在计算机中如何表示浮点数。到目前为止，IEEE754统一了浮点数的相关规范，本文也针对于IEEE754来进行分析。        在一般的通用计算机中，通常来讲单精度浮点数（fl...
浮点转定点运算
ColdCode's Hello World~
07-24 2万+
Original Source: http://www.cnblogs.com/s_agapo/archive/2012/03/20/2407332.html http://blog.csdn.net/sonictl/article/details/9018681 原文基于信号处理，本文对原文进行了精简和勘误，主要就浮点转定点运算的思想及实现进行说明： 1. 简介：
计算机组成原理：浮点数的加、减、乘、除运算（含实例完整运算）
热门推荐
m0_51783792的博客
04-06 3万+
浮点数的加减运算 零操作数的判断 一个操作数为零，也不必计算，节省时间 若加数或被加数其中有 0，则等于其中不为0 的那个数；若全为 0 则等于 0 若被减数为 0，则等于减数的相反数 ；若减数为 0，则等于被减数 ,若全为0则等于0 对阶操作 以阶码加大（绝对值）的为标准，阶码较小的 向较大的对齐 目的：计算机中的浮点数定点表示时小数点的位置是固定的，在小数的数值位的最前面，为了避免阶码较大的浮点数尾数左移导致最高位的丢失 如x 的阶码为 Ex=010，y的阶码Ey=1...
75h 计算机组成原理,计算机组成原理作业.pptx
weixin_36378793的博客
07-20 617
计算机组成原理作业要点计算机组成原理作业;第三章 ;3.8 设某浮点数格式为：字长12位，阶码6位，用移码表示；尾数8位，用补码表示。阶码在前，尾数在后(包括数符)，则按照此格式，求解以下问题。(1)已知X=─25/64，Y=2.875求X、Y的规格化的浮点数表示形式。解： X=─25/64=─(11001/1000000)=─0.11001×2-1， 则:[X]浮=0,11111;1.1...
浮点数编程易出现错误
www.keything.net
03-16 3596
进行浮点数编程时，如果没有注意，常常会出现输出类似 1.#IND, 1.#INF 或者 nan, inf 之类奇怪的输出。这通常隐含了浮点数操作的异常。 特殊浮点数的含义 1.#INF / inf：这个值表示“无穷大 (infinity 的缩写)”，即超出了计算机可以表示的浮点数的最大范围（或者说超过了 double 类型的最大值）。例如，当用 0 除一个整数时便会得到一个1.#INF / i
浮点数计算工具
06-01
输入的时候有两个选项：请收入需要转换的浮点数，这个时候如果是想将十进制的数据转换为浮点数的话 直接输入十进制 如果将报文数据转换成十进制的话就需要在一开始的时候先随便输入一个数据跳过“请收入需要转换的...
浮点数计算软件.zip
09-08
浮点数计算软件是一款专为理解和处理浮点数计算而设计的应用程序，它能够帮助用户了解4字节的二进制数值如何表示浮点数，这对于通讯传输和算法调试等场景具有很高的实用价值。在IT行业中，理解浮点数的表示和计算...
JavaScript解决浮点数计算不准确问题的方法分析
10-18
JavaScript中的浮点数计算不准确问题源于其内部的二进制表示方式，导致某些浮点数无法精确存储，从而在进行运算时出现误差。在计算机系统中，浮点数通常按照IEEE 754标准存储，双精度浮点数（JavaScript默认使用）的...
解决javascript中的浮点数计算不精确问题
07-26
在JavaScript编程中，浮点数计算不精确是一个常见的问题，源于其内部的二进制浮点数表示方式。本文将深入探讨这个问题，并提供解决方案。首先，我们要理解为什么会出现这种不精确性。 JavaScript遵循IEEE 754标准来...
floatNumCompute:javascript浮点数计算
05-07
floatNumCompute 浮点数计算（加减乘除）加法0.2 + 0.1 = 0.30000000000000004通过computeAdd(0.2, 0.1) 可以得到正确结果 0.3;减法0.3 - 0.1 = 0.19999999999999998通过computeSub(0.3, 0.1) 可以得到正确结果 0.2;...
浮点数的运算步骤
lisheng19870305的专栏
02-19 1万+
浮点数的运算步骤 浮点数的加减运算一般由以下五个步骤完成：对阶、尾数运算、规格化、舍入处理、溢出判断 一、对阶 所谓对阶是指将两个进行运算的浮点数的阶码对齐的操作。对阶的目的是为使两个浮点数的尾数能够进行加减运算。因为，当进行M x·2Ex与M y·2Ey加减运算时，只有使两浮点数的指数值部分相同，才能将相同的指数值作为公因数提出来，然后进行尾数的加减运算。对阶的具体方法是：首先求出两浮点数阶码的差，即⊿E＝E x-E y，将小阶码加上⊿E，使之与大阶码相等，同时将小阶码对应的浮点数的尾数右移相应位数
浮点数的运算方法
weixin_51760209的博客
04-10 3万+
浮点数的运算方法一、浮点数的表示1.浮点数的表示2.IEEE 754标准3.浮点数类型二、浮点数的加减法1.定义2.运算步骤三、运算部件四、强化练习 一、浮点数的表示 1.浮点数的表示 Ms表示尾数的符号位，E中1bit保存阶码的符号位其余空间存放阶码值，M中存放规格化后的尾数。 因为尾数规格化后其绝对值应大于或等于0.5D，故小数点后第一位都是1，故从小数点后第二位开始保存即可，节省空间并提高精度。 机器零的表示： 2.IEEE 754标准 预备知识： ◆ 单精度浮点数(32位)，阶码8位，尾
程序员必知之浮点数运算原理详解
weixin_30883271的博客
12-20 5748
程序员必知之浮点数运算原理详解 　　导读：浮点数运算是一个非常有技术含量的话题，不太容易掌握。许多程序员都不清楚使用==操作符比较float/double类型的话到底出现什么问题。 许多人使用float/double进行货币计算时经常会犯错。这篇文章是这一系列中的精华，所有的软件开发人员都应该读一下。 　　随着你经验的增长，你肯定 想去深入了解一些常见的东西的细节，浮点数运算就是其中之一。 ...
计算分数的浮点数值
零始蒟蒻维度
03-28 8409
入门难度，计算分数的浮点数值
浮点数的表示方法及换算技巧
吴昊的博客
06-10 1万+
32位的浮点数中：  Ｓ：浮点数的符号位，1 位。0表示正数，1表示负数。 Ｍ：尾数，23位。用小数表示，小数点在尾数域前面。 Ｅ：阶码，采用移码方式来表示。移码方法对两个指数大小的比较和对阶操作都比较方便，因为阶码域值大者其指数值也大。采用这种方式时，将浮点数的指数真值e 变成阶码Ｅ 时，应将指数 e 加上一个固定的偏移值127(01111111)，即 Ｅ＝e＋127 浮点数的真值x一般
练习3——计算和浮点数
wws563的专栏
05-31 1118
运算符，不嫌背的多+ plus 加号——》加 - minus 减号——》减 / slash 斜杠——》除 * asterisk 星号——》乘 % percent 百分号——》求余***下面四个用于求布尔值*** < less-than 小于号 > greater-than 大于号 <= less-than-equal 小于等于号 >= greater-than-equal 大于等于号 关于浮点数，
汇川小型PLC梯形图编程系列教程(七)：数值存储与二进制数据知识详解
yanjuntech的博客
10-14 5947
原文链接：汇川小型PLC梯形图编程系列教程(七)：数值存储与二进制数据知识详解 PLC数据存储原理简介 &nbsp; &nbsp; &nbsp; &nbsp;H123U小型PLC内部采用的是32位的处理器，PLC中的数据处理和电脑中的数据处理基本是一致的。所有的CPU进行数据处理时，都是将其他进制的数据转换成二进制数进行加减乘除运算的。二进制数据是只有0和1两种状态的数据，在计算机内部电路中实际是...
每秒浮点运算次数FLOPS
ayiya_Oese的博客
03-12 6672
FLOPS FLOPS：每秒浮点运算次数，亦称每秒峰值速度，（英语：Floating-point operations per second；缩写：FLOPS，flops 或者 flop/s），即每秒所运行的浮点运算次数。浮点（floating-point）指的是带有小数的数值，浮点运算即是小数的四则运算，常用来测量电脑运算速度或被用来估算电脑性能，尤其是在使用到大量浮点运算的科学计算领域中。因为FLOPS后缀的那个S代表秒，而不是复数，所以不能够省略。在多数情况下，测算FLOPS比测算每秒指令数（IPS）
float浮点数计算精度
最新发布
09-15
在计算机中，浮点数是以二进制形式存储的，而不是十进制。由于二进制无法精确表示某些十进制分数，因此在进行浮点数计算时会出现精度问题。 在Java中，float类型的浮点数有效位数为7位，而double类型的浮点数有效位数为15位。有效位数指的是整数位和小数位的总位数，不仅仅是小数位的位数。 浮点数的表示方式是以科学计数法保存的，包括一个符号位、一个尾数位和一个指数位。尾数位决定了浮点数的精度，而指数位决定了浮点数的范围。 由于浮点数的存储方式和精度限制，一些简单的十进制计算可能无法得到完全精确的结果。例如，0.1这个十进制数在浮点数中无法精确表示，因此可能会出现舍入误差。 为了解决浮点数计算精度问题，可以使用BigDecimal类进行计算。BigDecimal类提供了高精度的十进制运算，可以避免浮点数计算中的舍入误差。 总结起来，浮点数计算精度问题是由于二进制表示法无法精确表示某些十进制分数导致的。为了避免这个问题，可以使用BigDecimal类进行高精度的十进制运算。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值