Access中单精度类型运算过程中精度误差问题及处理

最新推荐文章于 2024-03-29 17:58:31 发布
最新推荐文章于 2024-03-29 17:58:31 发布
阅读量2.6k 收藏 1
点赞数
分类专栏： 数据库
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_40244176/article/details/84993035
版权
Access中的单精度类型在运算时会出现精度误差，尤其是在双精度与单精度相乘后四舍五入。尝试通过round函数等方式解决失败。最终采用将单精度数值乘以10000再除以10000来变相截取，成功解决了精度问题。
摘要由CSDN通过智能技术生成

在Access中单精度类型在运算过程中会有产生精度误差，比如，一个双精度乘于一个单精度的值四舍五入保留为两位小数的双精度会有精度问题。

 

求KCMJ:    KCMJ=TBMJ*KCXS，并将KCMJ四舍五入保留两位小数。

其中TBMJ、KCMJ为双进度数字类型，KCXS为单精度数字类型。

使用sql语句update DLTB set KCMJ = round(TBMJ * KCXS ,2)

最低0.47元/天 解锁文章
菜鸟晟呀
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
基于C++ Builder 6.0的IEEE 754中单精度浮点数转换实现
03-18
基于C++ Builder 6.0的IEEE 754中单精度浮点数转换实现
MS-SQL Server 中单引号的两种处理方法
09-11
MS-SQL Server 中单引号的两种处理方法是数据库开发中经常遇到的问题。当我们使用 SQL 语句时，经常需要处理单引号的问题，否则数据库引擎会报错。今天，我们将讨论两种处理单引号的方法：利用转义字符处理 SQL 语句...
FPGA中单精度浮点乘法器的实现.pdf
07-13
FPGA中单精度浮点乘法器的实现.pdf
浮点型数据精度不准确的探究
qq_36577291的博客
10-11 3676
今天来谈一下这个问题, 文章会涉及到以下几个方面: 1.浮点型的范围和精度 2.为什么浮点型会精度丢失 3.什么情况下我们可以使用浮点型 4.如何解决精度不准确的问题 浮点型 float和double都是我们常用的浮点型, 它们的范围是多少, 精度能精确到多少呢? float即单精度浮点数, 大小为4个字节共32位, double即双精度浮点数, 大小为8个字节共64位。就如上图所表述的...
ACCESS 数据类型解析
yilin54的专栏
03-16 894
单精度和双精度属于浮点型数字类型；而小数是定点型数字类型。 单精度：保存从-3.402823E38 到-1.401298E-45 的负值，从 1.401298E-45 到 3.402823E38 的正值。可以有7位小数；占4 个字节。 双精度：保存从–1.79769313486231E308 到–4.94065645841247E–324的负值，以及从4.94065645841247E–324 到1.79769313486231E308 的正值。可以有15位小数；占8 个字节。 小数:
access数据库中的数据精度和显示格式
热门推荐
whChina(江城老温)
05-23 1万+
ACCESS中的小数的表现形式有三种数据类型:单精度、双精度、小数。这三种数据类型均可在数据库设计时指定小数位数，而我写下这篇备忘录就是因为这里的小数位数。这里的小数位数是带有欺骗欺骗性质的。为何？因为这里设置的小数位数仅仅是在数据库中的显示格式。而数据库中实际存储的数据不受这个小数位数的限制。比如有双精度数"12.5678901234"我们在这数据所在列设置其小数位数为3，那么在数据库中我们
工作接触之：“三调”
最新发布
qq_53473497的博客
03-29 943
三调全称为：第三次全国国土调查（原称为第三次全国土地调查），自2017年起开展，2021年8月26日上午，召开，公布第三次全国国土调查主要数据成果。
ACCESS 常用数字类型简介（转）
qq_36196748的博客
06-20 7605
下面是ACCESS常用数字类型的说明和取值范围列表明供参考 转自 数字类型 范围 Byte(字节） 介于 0 到 255 之间的整型数。 Integer(整型) 介于 –32,768 到 32,767 的短整型数。 Long(长整型) 介于 –2,147,483,648 到 2,147,483,647...
LED中单个TL431恒流/限流技巧及改进
10-19
标题中的“LED中单个TL431恒流/限流技巧及改进”是指利用TL431集成电路在LED驱动电路中实现恒流和限流的技术。TL431是一种精密稳压源，常用于替代二极管，因为它在电阻上的特性使其能够有效地控制电流。在LED照明...
2022年度变更调查数据处理工具箱
就咬一小口的博客
01-04 3165
工具模块： 1.数据拆分合并 1.1DLTB拆分 1.2单独图层拆分 1.3数据合并 2.数据质检 2.1DLTB提取变化图斑 2.2变化图斑属性自检 2.3狭长角检查 2.4恢复属性检查 2.5推土区未按原地类调查 2.6 20X更新检查 3.入库前处理 3.1冗余属性清空 3.2 按面积占比赋值坡度级别 3.3 KCXS赋值
ArcGIS AddIN 田坎系数计算
u012839776的博客
10-18 5068
田坎系数是指耕地图斑中田坎面积与耕地图斑面积的比例。实现方式大致如下： 1.以地块面对田坎线进行空间包含查询，查询出面中包含的所有田坎线要素 2.将查询到的田坎线的面积进行累加求和 3.将第2步获取到的田坎线面积之和除以地块面积，即可以得到该图斑的田坎系数。 源码及插件下载地址见最后 基于AddIN实现该插件，界面如下： 界面代码： <Window x:Class="La...
单精度、双精度浮点存储表示及精度丢失问题
wyb041011的专栏
09-28 1251
单精度，双精度浮点存储表示 剖析float型的精度丢失问题
access 字段有哪些类型
DMX66的专栏
06-27 4307
两种都可以  2 : "SmallInt",                 // 整型    3 : "Int",                 // 长整型    4 : "Real",                 // 单精度型    5 : "Float",                 // 双精度型    6 : "Money",                 //
谨慎使用单精度/双精度数值类型
09-09 1897
前言　　在近日几个帖子里面，和QQ群的讨论里面，我发现很多网友都遇到的问题都是因为不恰当地使用了单精度/双精度数值。因此想专门就这个话题谈一下。　　单精度和双精度数值类型最早出现在C语言中（比较通用的语言里面），在C语言中单精度类型称为浮点类型（Float），顾名思义是通过浮动小数点来实现数据的存储。这两个数据类型最早是为了科学计算而产生的，他能够给科学计算提供足够高的精度来存储对于精度要求比较高
gis快速面积统计插件
weixin_44810713的博客
02-24 454
日常工作中对接甲方或做图时，添加、修改、分割、合并完一部分图斑想快速看下面积信息，如果想统计椭球面积或耕地净面积，需要添加字段计算字段统计字段，调整频繁时，往复点击，比较繁琐，这个小插件小巧高效，点击一下即可计算显示椭球面积及椭球净面积信息，并且计算好了平方米、公顷、亩三个常用单位。插件只有3kb，安装也比较简单双击即可，安装前gis要处于关闭状态，安装完成后再打开gis，在菜单栏空白处右键，选择quicktool，出现Calarea Button,即可使用。工具链接关注V信公众号“只因IS太美”获得。
数据类型中单精度和双精度有什么区别？
10-12
在Oracle数据库中，单精度和双精度是数字类型的子类，用于表示浮点数。它们的区别在于存储精度和字节长度。 单精度（FLOAT）是32位浮点数，可以表示大约7位有效数字。它使用4个字节来存储数据。 双精度（DOUBLE）...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值