浮点计算学习笔记

最新推荐文章于 2023-01-09 03:16:47 发布
最新推荐文章于 2023-01-09 03:16:47 发布
阅读量275 收藏
点赞数
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_44528747/article/details/108378287
版权
本文记录了作者学习浮点计算的过程，主要涉及《浮点计算-编程原理、实现与应用》一书的内容，以及IEEE 754和IEEE 854标准的介绍。讲解了浮点数的科学计数法，包括尾数和指数的构成，并分析了浮点数编码方式中的隐含位优缺点，指出单精度和双精度格式的有效数字数量。
摘要由CSDN通过智能技术生成

最近工作一直围绕浮点计算，所以在此记录自己的学习过程。
学习教材《浮点计算-编程原理、实现与应用》 刘纯根 著

 
问：double的精度是多少？（同事做模型设计的时候希望知道什么时候计算认为此小数为0）

1984年，IEEE推出了《IEEE二进制浮点运算标准754》
链接--http://www.dsc.ufcg.edu.br/~cnum/modulos/Modulo2/IEEE754_2008.pdf
1987年，IEEE推出了《IEEE通用数制的浮点运算标准》 --IEEE854标准
https://standards.ieee.org/standard/854-1987.html ---要收费？

1.科学计数法
抽象描述为：

\pm X_{n}X_{n-1}...X_{0}\cdot X_{-1}X_{-2}...X_{-m} = \pm X_{n}\cdot X_{n-1}...X_{0}X_{-1}X_{-2}...X_{-m} \times B^{n}

它有两个部分组成，一个只有1位整数的实数和相应的放大因子，即尾数和指数：

尾数：\pm X_{n}\cdot X_{n-1}...X_{0}X_{-1}X_{-2}...X_{-m}

指数：n

科学计数法的实质是将实数分解为尾数和指数

 </

最低0.47元/天 解锁文章
想变专业的工程师
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
[浮点计算-编程原理,.实现与应用].刘纯根
12-01
本书介绍了基本计算算法的实现和代码分析,主要内容有:c++与通用编程,大数运算,超高精度的定点和浮点仿真库,x87FPU编程,反汇编vc6浮点库和常见浮点编程技巧.
浮点计算学习笔记2
weixin_44528747的博客
09-04 138
问：浮点数在计算机中的值怎么跟输入的值不一样？ 例如，float a = 5.6,b=5.0; printf("%.7f",a-b); 得到的结果就不是0.6 因为0.6不能精确地用2的幂次方代替，所以计算机保存的是舍入的近似值 一个十进制小数要能用浮点数精确地表示的必要条件是最后一位必须是 5 0.1 = 2^(-1) = 0.5 0.01 = 2^(-2) = 0.25 0.001 = 2^(-3) = 0.125 0.0001 = 2^(-4) = 0.0625 0.00001 = 2^(-5) =
浮点计算编程原理、实现与应用
12-06
前言 　第1章　引论 　　1.1　计算有什么用？ 　　　1.1.1　基础科学 　　　1.1.2　应用科学 　　　1.1.3　工程项目 　　　1.1.4　日常生活 　　1.2　超高精度计算有什么用？ 　　1.3　计算编程概述 　　1.4　一些缩写的解释 第1部分　原理与实现：通用仿真库 　第2章　代码概述 　　2.1　基本内容 　　2.2　使用c++？ 　　　2.2.1　c还是c++？ 　　　2.2.2　c++与通用编程 　　2.3　c++代码的设计 　　　2.3.1　使用模板 　　　2.3.2　操作符重载 .　　　2.3.3　选择接口函数 　　　2.3.4　参数传递 　　　2.3.5　返回值处理 　　　2.3.6　计算异常与诊断信息 　　　2.3.7　内存布局 　　2.4　计算代码的测试 　　　2.4.1　随机输入测试 　　　2.4.2　特殊值测试 　　　2.4.3　恒等式测试 　　2.5　代码的使用 　　2.6　伪码 　第3章　通用整型运算 　　3.1　基本概念 　　　3.1.1　记数法与数制 　　　3.1.2　整型编码 　　　3.1.3　编码位数换算 　　3.2　通用整型编码 　　　3.2.1　数据定义 　　　3.2.2　jype的选取 　　3.3　通用整型四则运算 　　　3.3.1　加法 　　　3.3.2　减法 　　　3.3.3　乘法 　　　3.3.4　除法 　　3.4　优化 　　　3.4.1　加法 　　　3.4.2　减法 　　　3.4.3　乘法 　　　3.4.4　除法 　　3.5　符号处理 　　　3.5.1　原码，还是补码？ 　　　3.5.2　有符号通用整型的表示 　　　3.5.3　符号操作 　　3.6　输入输出函数 　　　3.6.1　输入函数 　　　3.6.2　输出函数 　　3.7　代码使用 　第4章　通用定点运算 　　4.1　基本概念 　　　4.1.1　记数法 　　　4.1.2　误差 　　　4.1.3　舍入 　　　4.1.4　有效数字 　　4.2　通用定点数编码 　　　4.2.1　数据定义 　　　4.2.2　符号处理 　　4.3　四则运算 　　　4.3.1　加法和减法 　　　4.3.2　乘法 　　　4.3.3　除法 　　4.4　辅助操作 　　4.5　代码使用：计算派 　第5章　浮点数与ieee浮点标准 　第6章　通用浮点运算 　第7章　通用基本函数库 第2部分　应用：x87fpu编程与vc6浮点库 　第8章　x87fpu编程 　第9章　编写自己的浮点库 　第10章　如何反汇编代码 　第11章　vc6浮点函数库 　第12章　异常处理机制 　第13章　浮点编程中的常见技巧 附录
浮点计算编程原理、实现与应用 源代码
03-06
这个代码是刘纯根所著的《浮点计算编程原理、实现与应用 》中的源代码。
浮点数学习心得
weixin_41722502的博客
08-03 427
浮点数学习心得 问题起因 因为前几天遇到一个问题，量表配了一个小数0.099，通过转表工具转成json后变成了0.1，对此很是困惑不解，并进行一步步研究 1、先检查了量表却是配的是0.099，而且0.098转出是正常的 2、我用python写的工具转了一遍却能正常转出0.099，难道是我们的转表工具有问题？ 3、我们的转表工具是VS工程的C#语言写的，对此我又搭了一个临时windows环境去装VS，但临时版的windows有很多问题，不能安装，我就直接去看了一下C#代码，看了许久发了了这样一段代
计算机组成原理学习笔记MD版本
最新发布
07-21
**计算机组成原理学习笔记** 计算机组成原理是计算机科学与技术领域的基础课程，它涉及计算机硬件系统的基本构造和工作原理。本笔记将详细讲解以下几个核心概念： 1. **数据表示与运算** - **二进制系统**: ...
python基础学习笔记
02-20
"Python基础学习笔记"涵盖了Python入门所需的关键知识点，是初学者踏入编程世界的重要资源。 首先，Python的基础语法是学习的起点。它使用缩进来定义代码块，这与大多数其他编程语言的花括号不同。Python的变量声明...
java学习笔记
12-22
Java学习笔记涵盖了大量的Java基础知识，包括面向对象编程和高级特性。以下是对这些知识点的详细解释： **基础语法** 1. **数据类型**：Java有基本数据类型和引用数据类型。基本数据类型包括整型（byte, short, int...
MySQL数据库学习笔记.pdf
07-14
总结来说，MySQL数据库的学习涵盖了数据库的基础概念、SQL语言的使用、数据类型的选择、索引优化以及变量和运算等内容，这些是构建和维护高效数据库系统的基础。通过深入理解和实践，你可以更好地掌握这个强大的...
STM32学习笔记，入门学习笔记
12-07
STM32基于ARM Cortex-M3/M4/M7内核，这些内核支持Thumb2指令集，具有浮点运算单元（FPU）以及中断处理能力，使得实时性和处理速度得到保障。 1.4 引脚定义 STM32的引脚有多种功能，如GPIO、外部中断、时钟信号等，...
IEEE488.1 -1987
10-31
GPIB　488.1 标准协议　　仪器设计的通信标准类　规定了硬件的行为
细说浮点数
qq_41087151的博客
01-09 1208
浮点数的较为详细的分析
二进制浮点数算术标准IEEE 754与转换实例
uflexnihao的博客
02-04 2031
IEEE 754标准定义了在计算机系统中，用二进制表示浮点数的标准。 二进制浮点数表示 sign 为符号位 exponent 为指数位（以2为底） fraction为分数部分 Value=sign*exponent*fraction 一、IEEE 754的前世今生 在IEEE 754出现前，各家计算机公司自己使用自己的数值表示标准，当时在移植代码时非常困难。1976年，Intel为8086微处理器引入浮点协处理器时意识到，硬件工程师并不善于数值的定义。于是，Intel找到当时最优秀的数值专家-
IEEE 754标准--维基百科
日拱一卒,功不唐捐
03-13 4832
IEEE二进制浮点数算术标准（IEEE 754） 是20世纪80年代以来最广泛使用的浮点数运算标准，为许多CPU与浮点运算器所采用。这个标准定义了表示浮点数的格式（包括负零-0）与反常值（denormal number），一些特殊数值（（无穷（Inf）与非数值（NaN）），以及这些数值的“浮点数运算符”；它也指明了四种数值舍入规则和五种例外状况（包括例外发生的时机与处理方式）。 IEEE 754规...
IEEE 754
fengZ的专栏
12-12 2863
维基百科，自由的百科全书 IEEE二进制浮点数算术标准（IEEE 754）是1980年代以来最广泛使用的浮点数运算标准，为许多CPU与浮点运算器所采用。这个标准定义了表示浮点数的格式（包括负零-0）与反常值（denormal number）），一些特殊数值（无穷与非数值（NaN）），以及这些数值的“浮点数运算符”；它
IEEE 754浮点数标准详解
weixin_40805079的博客
12-24 1万+
转载于：http://c.biancheng.net/view/314.html 在计算机系统的发展过程中，业界曾经提出过许多种实数的表达方法，比较典型的有相对于浮点数（Floating Point Number）的定点数（Fixed Point Number）。在定点数表达法中，其小数点固定地位于实数所有数字中间的某个位置。例如，货币的表达就可以采用这种表达方式，如 55.00 或者 00.5...
IEEE-754标准与浮点数运算
热门推荐
马骏超的博客
11-29 2万+
序言 本文主要简述了计算机中数字的表示方式，以及IEEE-754标准的由来及具体规定，最后简单的叙述了浮点数的运算规则。阅读这篇文章之前，最好有关于有关于机器数中的原码、反码、补码三种形式的一些概念。 计算机&quot;眼中&quot;的数字 计算机内数据和指令都是由晶体管和门电路等元件完成的，对于这些元件来说，开或者关是其唯一的状态，这种状态的表现就是二进制的理念。就像黑客帝国世界中漫天飞的0和1一样,计算机世界使...
程序员必知之浮点数运算原理详解
weixin_30883271的博客
12-20 5778
程序员必知之浮点数运算原理详解 　　导读：浮点数运算是一个非常有技术含量的话题，不太容易掌握。许多程序员都不清楚使用==操作符比较float/double类型的话到底出现什么问题。 许多人使用float/double进行货币计算时经常会犯错。这篇文章是这一系列中的精华，所有的软件开发人员都应该读一下。 　　随着你经验的增长，你肯定 想去深入了解一些常见的东西的细节，浮点数运算就是其中之一。 ...
Go语言学习笔记精要
"Go 学习笔记 第三版" 这是一份关于Go语言的学习笔记，作者通过简洁易懂的方式，分享了自己对Go语言的理解和实践经验。笔记旨在帮助读者快速复习和掌握Go语言的关键知识点，尤其适合已经有一定编程基础的程序员使用...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值