MySQL中varchar类型进行sum计算带小数精度损失

最新推荐文章于 2024-08-20 10:15:00 发布
原创 最新推荐文章于 2024-08-20 10:15:00 发布 · 778 阅读 · 1 ·
CC 4.0 BY-SA版权
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
文章标签：

#mysql #数据库

  • 背景：数据库表字段中关于面积设计之初为varchar类型，但是在求和计算时会出现精度损失问题，截图如下
  • 解决方案：使用CAST或CONVERT函数显式地将VARCHAR值转换为数值类型，这样可以更精确地控制转换过程【SELECT中最后一行语句】
  • SELECT
	brf.type_id AS type_id,
	COUNT( brf.id ) AS amount,
	COALESCE ( SUM( IFNULL( brf.area, 0 ) ), 0 ) AS area ,
	SUM(CAST(IFNULL( brf.area, 0 ) AS DECIMAL(10, 3))) AS area2
FROM
	biz_resource_forest brf 
WHERE
	brf.del_flag = '0' 
GROUP BY
	type_id
  •  结语：统计面积丢失精度问题解决
MySQL中的SUM函数使用不正确，无法获得正确的结果！
MwgmPhilosophy的博客
10-10 2464
例如，如果您尝试对包含字符串值的列使用SUM函数，它将尝试将字符串转换为数字，而这可能导致不准确的结果。如果总和的结果超出了列的数据类型所能表示的范围，SUM函数可能会返回不正确的结果。例如，如果您的列是TINYINT类型，并且总和的结果超出了TINYINT类型的范围（-128到127），则SUM函数将返回错误的值。例如，如果列中有一个NULL值，SUM函数将忽略该值，并返回其他非NULL值的总和。如果您预计总和可能超过当前数据类型的范围，可以考虑将列的数据类型更改为更大的类型，例如INT或BIGINT。
MySQL (十二) : MySQL数据类型精讲(非常详细)、整数类型、定点数(小数)类型、日期类型、文本字符串类型
Guizy
04-18 1001
第12章_MySQL数据类型精讲 1. MySQL中的数据类型 类型 类型举例 整数类型 TINYINT、SMALLINT、MEDIUMINT、INT(或INTEGER)、BIGINT 浮点类型 FLOAT、DOUBLE 定点数类型 DECIMAL 位类型 BIT 日期时间类型 YEAR、TIME、DATE、DATETIME、TIMESTAMP 文本字符串类型 CHAR、VARCHAR、TINYTEXT、TEXT、MEDIUMTEXT、LONGTEXT 枚举类型 E
Mysql——SUM()函数
热门推荐
m0_63725962的博客
05-19 4万+
SUM()函数的用法： 有案例，可以跟着博主一起无脑操作，保姆级解释，更简单直观的了解SUM（）函数的用法
mysql sum计算列累加值保持2位小数
琅枫的博客
07-21 3050
函数返回的结果保留两位小数。其中，第一个参数是要保留小数的数值，第二个参数指定了要保留的小数位数。在这个例子中，我们指定要保留两位小数，因此第二个参数是2。函数返回的结果并不是保留两位小数，而是返回全部的小数位数。下面就是一种方法，可以使。函数返回结果的小数位数。如果你需要保留更多或者更少的小数位数，只需要相应地调整。函数对一列数值进行求和是非常常见的操作，但是默认情况下，在这个例子中，我们使用了。函数的第二个参数即可。这样，我们就可以使用。
MySQL数据库varchar字段求和出现精度丢失
xieyfjejwaj的博客
10-18 1664
在上述示例中，78.99、88.22和66.88这三个数值在二进制表示中无法精确表示，导致了舍入误差的产生。虽然这种误差在单个数值中可能并不明显，但当进行累加运算时，误差会逐步累积，最终导致了精度丢失。因此，在进行浮点数运算时，可能会产生舍入误差，从而导致精度丢失。上述示例中，我们创建了一个名为test的表，并向其中插入了三条记录，分别为78.99、88.22和66.88。后面的2代表精度，也就是小数有效位，当数据的有效位大于2时，则进行四舍五入运算，小于2时补0填充位数。
mysql sum精度问题
tyc_054600的博客
05-29 5194
mysql sum java 精度
mysql varchar类型求和实例操作
09-09
总结一下，MySQL中的`VARCHAR`类型求和可以通过`SUM()`函数（适用于简单场景）、`CAST()`或`CONVERT()`函数（适用于更复杂的数值转换）来实现。理解并熟练运用这些函数，能够帮助你在遇到类似问题时，有效地进行数据...
【SQL】MySQL 中 SUM + FORMAT 出错的原因与解决方案详解
每日出拳老爷子的博客
08-20 684
MySQL中使用SUM + FORMAT组合时，由于FORMAT返回字符串类型，可能导致数值计算错误（如1619显示为1）。本文分析了该问题原因，并给出三种解决方案：1）SQL层计算+应用层格式化（推荐）；2）SQL层先计算后格式化；3）直接格式化但结果仅用于展示。建议避免在SQL中使用FORMAT进行计算，确保数值处理的准确性，将格式化工作交给前端应用层完成。
MYSQL 三、mysql基础知识 1（数据类型）
kkkkatoq的博客
05-23 980
浮点数和定点数类型的特点是可以处理小数，你可以把整数看成小数的一个特例。因此，浮点数和定点数的使用场景，比整数大多了。MySQL支持的浮点数类型，分别是FLOATFLOAT 表示单精度浮点数；DOUBLE 表示双精度浮点数；REAL默认就是DOUBLE。如果你把SQL模式设定为启用，那 么，MySQL就认为REAL是FLOAT。如果要启用，可以通过以下SQL语句实现：SET问题1FLOAT和DOUBLE这两种数据类型的区别是啥呢？SET。
mysql学习笔记+基础部分+附带图片
04-13
- **DECIMAL(precision, scale)**：精确数值类型，`precision` 表示总位数，`scale` 表示小数位数。 #### 五、SQL 基本操作 1. **INSERT**：向表中插入数据。 ```sql INSERT INTO employees (name, salary) ...
关于mysql中sum出现精度非正常的问题
weixin_42103227的博客
05-30 5046
类型为double，sum运算出错，出现1.0000000000032，需要的数值为1.00。 解决方法：cast (字段 as decimal(18,2))指定精度。
mysql sum 统计数值出现精度问题
z1340954953
06-23 1万+
mysql sum 累计求和精度问题
mysql中varchar类型使用sum函数，计算相应的小数点后几位
yuguang的博客
08-11 4268
1、建表 CREATE TABLE `test` ( `id` bigint(20) NOT NULL AUTO_INCREMENT, `output_value` varchar(20) DEFAULT '', PRIMARY KEY (`id`) ) ENGINE=InnoDB DEFAULT CHARSET=utf8mb4; INSERT INTO `test` VALUES (1, '12.12'); INSERT INTO `test` VALUES (2, '12....
mysql中SUM时数据类型不一致导致的数据精度问题
12-30 1559
执行mysql语句时包含sum求和操作，且sum()里面进行了if判断，if的结果可能是字段值或者为'0'，也就是后面这个'0'导致了数据精度问题，'0'被认为是字符串0，跟字段类型不一致导致计算求和时出现精度问题。 ...
mysql金额汇总sum()出现精度丢失
weixin_45502734的博客
10-29 9458
例如0.01+0.01+0.01=0.03，结果sum后变为了0.029999994 这是因为mysql做数据存取时，数据库引擎对浮点数的精度扩展 和截断处理策略不一致，导致数据精度不一致会发生丢失 因为decimal类型是可以确定精度，所以需要使用cast转换格式为decimal 处理样例如下： 原: selectsum(totalmoney) as amt ...... 改后：select sum(cast(totalmoney as decimal(18,2)))as amt...
mysql中对varchar类型的字段进行转换成数字并求和sum
qq_23299749的博客
06-30 8324
mysql中如何对varchar类型的字段进行转换成数字并求和sum sql SELECT sum(cast(字段名 AS DECIMAL (12,2))) FROM 表名; 值得注意的是，里面有个小坑，其中 Cast(字段名 as 转换的类型 ) 将字段转成对应的类型，类型可以为 CHAR[(N)] 字符型 DATE 日期型 DATETIME 日期和时间型 DECIMAL float型 SIGNED int TIME 时间型 并不包括numeric类型，我刚开始查询相关博客时，查到的语句为 S
mysql sum varchar数据类型精度
weixin_41077158的博客
07-19 227
字符串相关学习资料：006_指法标准_键盘正位_你好世界_hello_world_单引号_双引号008_ 输出h字符_REPL_引号_括号_什么是函数MySQL SUM VARCHAR 数据类型精度 作为一名经验丰富的开发者，我很高兴能够帮助刚入行的小白们解决一些技术难题。今天，我们将讨论如何在MySQL中实现对VAR...
mysqlvarchar转数字再求和
最新发布
08-22
在 MySQL 中，如果你有一个 `VARCHAR` 类型的字段，其中存储的是数字字符串（例如 `'123'`, `'45.67'`），你希望将其转换为数字（整数或浮点数）并进行求和（`SUM()`），你可以使用 `CAST()` 或 `CONVERT()` 函数来完成。 --- ### ✅ 场景说明 假设你有一个表 `transactions`，结构如下： ```sql CREATE TABLE transactions ( id INT PRIMARY KEY AUTO_INCREMENT, item VARCHAR(100), price_str VARCHAR(50) -- 存储的是数字字符串，例如 '100', '99.99' ); ``` 你想对 `price_str` 字段中的字符串数值进行求和。 --- ### ✅ 将 `VARCHAR` 转换为数字并求和 #### 1. 转换为浮点型（适用于含小数点的字符串） ```sql SELECT SUM(CAST(price_str AS DECIMAL(10,2))) AS total_price FROM transactions WHERE price_str REGEXP '^[0-9]+(\.[0-9]+)?$'; ``` - `CAST(price_str AS DECIMAL(10,2))`：将字符串转换为最多 10 位，其中小数部分最多 2 位的浮点数。 - 正则表达式用于确保只对合法的数字字符串进行转换。 #### 2. 转换为整型（适用于不含小数点的字符串） ```sql SELECT SUM(CAST(price_str AS UNSIGNED)) AS total_price FROM transactions WHERE price_str REGEXP '^[0-9]+$'; ``` - `CAST(price_str AS UNSIGNED)`：将字符串转换为无符号整数。 - 正则表达式确保只匹配纯数字字符串。 --- ### ✅ 示例：带分组的求和 如果你想按商品分组求和： ```sql SELECT item, SUM(CAST(price_str AS DECIMAL(10,2))) AS total_price FROM transactions WHERE price_str REGEXP '^[0-9]+(\.[0-9]+)?$' GROUP BY item; ``` --- ### ✅ 总结代码 ```sql -- 浮点型求和 SELECT SUM(CAST(price_str AS DECIMAL(10,2))) AS total_price FROM transactions WHERE price_str REGEXP '^[0-9]+(\.[0-9]+)?$'; -- 整型求和 SELECT SUM(CAST(price_str AS UNSIGNED)) AS total_price FROM transactions WHERE price_str REGEXP '^[0-9]+$'; -- 按字段分组求和 SELECT item, SUM(CAST(price_str AS DECIMAL(10,2))) AS total_price FROM transactions WHERE price_str REGEXP '^[0-9]+(\.[0-9]+)?$' GROUP BY item; ``` --- ### ⚠️ 注意事项 - 如果字符串中包含非数字字符（如 `'100元'`、`'abc'`），转换会失败或返回 0。 - 使用正则表达式 `REGEXP` 可以有效过滤非法字符串，避免错误或不准确的求和。 ---
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
红包 添加红包
表情包 插入表情
表情包 代码片
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值