mysql中SUM时数据类型不一致导致的数据精度问题

最新推荐文章于 2023-10-18 11:34:43 发布
最新推荐文章于 2023-10-18 11:34:43 发布
阅读量1.3k 收藏
点赞数
分类专栏： mysql
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/jinborui2/article/details/103771930
版权

执行mysql语句时包含sum求和操作，且sum()里面进行了if判断，if的结果可能是字段值或者为'0'，也就是后面这个'0'导致了数据精度问题，'0'被认为是字符串0，跟字段类型不一致导致计算求和时出现精度问题。

爬山虎还上班
关注
专栏目录
MySQL (十二) : MySQL数据类型精讲(非常详细)
Guizy
04-18 779
第12章_MySQL数据类型精讲 1. MySQL中的数据类型 类型 类型举例 整数类型 TINYINT、SMALLINT、MEDIUMINT、INT(或INTEGER)、BIGINT 浮点类型 FLOAT、DOUBLE 定点数类型 DECIMAL 位类型 BIT 日期时间类型 YEAR、TIME、DATE、DATETIME、TIMESTAMP 文本字符串类型 CHAR、VARCHAR、TINYTEXT、TEXT、MEDIUMTEXT、LONGTEXT 枚举类型 E
MySQL 数据类型
ctlongs的博客
11-19 428
MySQL 数据类型
mysql sum 统计数值出现精度问题
热门推荐
z1340954953
06-23 1万+
mysql sum 累计求和精度问题
mysql sum精度问题
tyc_054600的博客
05-29 4961
mysql sum java 精度
mysql sum函数不精确处理
寿春
02-25 2025
在mysql中，sum计算小数不精确 SELECT cast( sum(字段) AS DECIMAL (19, 5) 5 表示精确小数点5位 ) AS sumComm FROM 表
关于mysql中sum出现精度非正常的问题
weixin_42103227的博客
05-30 4851
类型为double，sum运算出错，出现1.0000000000032，需要的数值为1.00。 解决方法：cast (字段 as decimal(18,2))指定精度。
mysql中sum float类型使用小数点的方法
09-10
在MySQL数据库中，当对`float`类型的数据执行`SUM`函数时，可能会遇到小数点后数值不精确的问题。这是因为`float`类型是近似数值存储，它并不保证完全精确，尤其在进行数学计算时可能会引入误差。为了解决这个问题，...
基础篇12、MySQL数据类型精讲
希望有点用
06-21 961
MySQL数据类型精讲
02【IDEA、数据类型转换、运算符、方法】
緑水長流*z
07-30 8444
一、开发工具IntelliJ IDEA 1.1 开发工具概述 IDEA 全称 IntelliJ IDEA，是java编程语言开发的集成环境。IntelliJ在业界被公认为最好的java开发工具之一，尤其在智能代码助手、代码自动提示、重构、J2EE支持、各类版本工具(git、svn等)、JUnit、CVS整合、代码分析、 创新的GUI设计等方面的功能可以说是超常的。IDEA是JetBrains公司的产品，这家公司总部位于捷克共和国的首都布拉格，开发人员以严谨著称的
mysql金额汇总sum()出现精度丢失
weixin_45502734的博客
10-29 8410
例如0.01+0.01+0.01=0.03，结果sum后变为了0.029999994 这是因为mysql做数据存取时，数据库引擎对浮点数的精度扩展 和截断处理策略不一致，导致数据精度不一致会发生丢失 因为decimal类型是可以确定精度，所以需要使用cast转换格式为decimal 处理样例如下： 原: selectsum(totalmoney) as amt ...... 改后：select sum(cast(totalmoney as decimal(18,2)))as amt...
mysql使用SUM求和精度丢失
AlaiaCodeingLife
06-30 5287
sum(cast(totalmoney as decimal(18,6))) 使用cast转换格式为decimal
SUM()求和时的精度问题,跟数据表字段定义有关
xqf222的专栏
08-31 6019
SUM()求和时的精度问题,跟数据表字段定义有关sum以最精确的 expression 数据类型返回所有表达式值的和 返回结果: money 精确到货币单位的千分之十 float(n) n在1-14,精度7位，25-53，精度15位 decimal 精度38位 int 精度为整数位数 语句查询的结果居然会返回很长的数字(5700.25001144409 )11位小数查找数据表中对应
mysql sum函数查询的结果与实际不符合增加了好多小数位
科小洋的博客
12-15 1470
数据字段的格式不正确 可使用decimal试下
索引失效原因之——sql语句中的字段类型与数据表中的字段类型不符
明媚
01-04 1392
一、背景 现有test_type表，表结构如下图所示，其中num字段的类型为varchar： 执行sql语句: select sum(money) from test_type where num = ‘1210’; 如下图所示：执行此sql语句花费1秒。 为了减少执行此sql语句花费时间，现为数据表中num字段建立索引： CREATE INDEX index_num ON test_typ...
发现mysql 4.0.18 for nt 的sum函数的计算误差
l1t的专栏
10-01 2655
发现mysql 4.0.18 for nt 的sum函数的计算误差mysql> create table ch3(ID char(32), V decimal(18,2));Query OK, 0 rows affected (0.12 sec)mysql> insert into ch3 select * from vc2;Query OK, 8192 rows affected (1.24
MySQL数据库varchar字段求和出现精度丢失
最新发布
xieyfjejwaj的博客
10-18 1153
在上述示例中，78.99、88.22和66.88这三个数值在二进制表示中无法精确表示，导致了舍入误差的产生。虽然这种误差在单个数值中可能并不明显，但当进行累加运算时，误差会逐步累积，最终导致了精度丢失。因此，在进行浮点数运算时，可能会产生舍入误差，从而导致精度丢失。上述示例中，我们创建了一个名为test的表，并向其中插入了三条记录，分别为78.99、88.22和66.88。后面的2代表精度，也就是小数有效位，当数据的有效位大于2时，则进行四舍五入运算，小于2时补0填充位数。
mysql sum计算列累加值保持2位小数
琅枫的博客
07-21 2025
函数返回的结果保留两位小数。其中，第一个参数是要保留小数的数值，第二个参数指定了要保留的小数位数。在这个例子中，我们指定要保留两位小数，因此第二个参数是2。函数返回的结果并不是保留两位小数，而是返回全部的小数位数。下面就是一种方法，可以使。函数返回结果的小数位数。如果你需要保留更多或者更少的小数位数，只需要相应地调整。函数对一列数值进行求和是非常常见的操作，但是默认情况下，在这个例子中，我们使用了。函数的第二个参数即可。这样，我们就可以使用。
mysql对字符串类型数据求和
k849875005的博客
10-21 7619
mysql直接使用sum(varchar)会导致出现结果出现小数位异常，需要使用cast()函数或者CONVERT()对数据进行格式化，具体如下 Cast(字段名 as 转换的类型 )，其中类型可以为： CHAR[(N)] 字符型 DATE 日期型 DATETIME 日期和时间型 DECIMAL float型 （DECIMAL （10，2）//设置精度） SIGNED int TI...
为什么在mysql的SUM算出来的数和Execlsum算出来的数不一样
06-08
可能是因为在计算时使用的精度不同所导致的。MySQL的SUM函数默认使用DOUBLE类型进行计算，而Excel的SUM函数默认使用FLOAT类型进行计算。这两种数据类型在计算时的精度和范围是不同的，可能会导致在处理大量数据时出现误差。另外，Excel的SUM函数还会自动忽略非数字类型的单元格，而MySQL的SUM函数需要手动排除非数字类型的行或列。因此，在比较两者的结果时，需要考虑到这些因素的影响。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值