成佩涛编程之路——MySQL除法精度问题

最新推荐文章于 2024-08-28 02:05:16 发布
最新推荐文章于 2024-08-28 02:05:16 发布
阅读量3.4k 收藏
点赞数 1
分类专栏： 数据库 文章标签： mysql sql 成佩涛黑客 成佩涛hack select
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/CPTcpt123/article/details/25750165
版权

最近在写一个SQL中遇到除法精度问题，比如：

1 SELECT 7185521/7185522

得出的结果是1，那么如何让他得到0.999这样的结果呢，后来查google得知可以利用TRUNCATE()函数来解决这样类似大数据除法的精度问题。

  • TRUNCATE(X,D)

返回被舍去至小数点后D位的数字X。若D 的值为 0, 则结果不带有小数点或不带有小数部分。可以将D设为负数,若要截去(归零) X小数点左起第D位开始后面所有低位的值.

1 SELECT TRUNCATE(7185521/7185522,4)

例如这样就会得出“0.9999”这样的结果

cpthack
关注
专栏目录
架构师之路：数据中台关键数据治理
AI天才研究院
07-31 2908
数据中台（Data Intelligence）作为2020年互联网企业必备技能之一，其重要性无需多言。随着越来越多的企业将数据视作至关重要的基础业务，传统的数据处理方法已无法满足时代要求，如何实现数据驱动、智能化，以及如何对关键数据进行有效治理，成为了各公司面临的共同难题。因此，我们必须秉持科学发展观，学习先进技术，切实提升数据中台的整体能力，培养出一支能够兼顾架构、开发、测试等方面的高级数据架构师。
从零开始构建机器学习平台——架构设计、模块拆解及实现方案
AI天才研究院
08-10 744
概述在当今数据驱动的时代,机器学习已经成为众多行业和领域的核心技术。然而,构建一个完整、高效且可扩展的机器学习平台仍然是一项复杂的工程挑战。从数据收集和预处理,到模型训练、评估和部署,再到持续监控和优化,每个环节都需要精心设计和实现。本文旨在为读者提供一个全面的指南,详细介绍如何从零开始构建一个功能完备的机器学习平台。我们将深入探讨平台的整体架构设计,各个关键模块的功能和实现,以及在实际开发过程中可能遇到的挑战和解决方案。
Mysql 乘法除法精度不一致问题(除法后四位小数)
12-14
问题 今天在写项目功能的时候，有一个统计金额的情况，然后需要进行单位转换，所以写下了大概如下功能的语句，但得到的数据为小数点后4位精度，正常我们只需要2位就足够。 select total_fee / 100 from orders 继续排查寻找资料，进行精度转换，找了一圈的资料都不太满意，继续进行测试 测试 测试bug和未知情况，我们一定要 最小复现，精简测试 ，防止其他语句对结果产生干扰。 select 1 / 100; // 得到 0.0100 select 1 * 0.01; // 得到 0.01 并且在3/4台设备上运行，不同mysql版本环境都是这样子的结果。 所以初步得知 M
mysql除法精度
fyhjuyol的专栏
08-19 2762
Example: mysql> select 1*0.00001; +-----------+ | 1*0.00001 | +-----------+ | 0.00001 | +-----------+ Ok, that looks fine. Let's do the same thing using division: mysql> select 1/100000;
mysql 除法四舍五入两位
最新发布
weixin_40458878的博客
08-28 50
我整理的一些关于【mysql】的项目学习资料（附讲解～～）和大家一起分享、学习一下：https://d.51cto.com/yOSbkR使用 MySQL 实现“四舍五入两位小数的除法” 在开发过程中，我们常常需要进行数据处理，特别是在处理浮点数时，四舍五入就显得尤为重要。本文将教你如何在 MySQL 中实现“除法并四舍五...
代码之谜（五）- 浮点数（谁偷了你的精度？）
热门推荐
justjavac(迷渡)
11-13 1万+
****光棍节加长版**** 如果我告诉你，中关村配置最高的电子计算机的计算精度还不如一个便利店卖的手持计算器，你一定会反驳我：「今天写博客之前又忘记吃药了吧」。 你可以用最主流的编程语言计算 0.2 + 0.4，如果你使用的是 Chrome、FireFox、IE 8+，可以按 F12 键，然后找到 「控制台」，输入上面的 表达式 0.2 + 0.4，回车。 然后再用最简陋的
【项目实践】商业计算怎样才能保证精度不丢失（csdn）————程序.pdf
12-04
对于除法操作，由于可能存在除不尽的情况，可以使用`divide(BigDecimal divisor, int scale, RoundingMode roundingMode)`方法，其中`scale`指定结果的小数位数，`roundingMode`指定了舍入策略，以避免无限循环的...
Java工程师成神之路 | 2022正式版
m0_67698950的博客
06-15 1281
面向对象什么是面向对象面向对象与面向过程面向对象的三大基本特征面向对象的五大基本原则封装、继承、多态什么是多态方法重写与重载Java的继承与实现Java的继承与组合构造函数与默认构造函数类变量、成员变量和局部变量成员变量和方法作用域平台无关性Java如何实现的平台无关性的JVM还支持哪些语言值传递值传递、引用传递为什么说Java中只有值传递小伙伴们有兴趣想了解内容和更多相关学习资料的请点赞收藏+评论转发+关注我，后面会有很多干货。我有一些面试题、架构、设计类资料可以说是程序员面试必备！所有资料都整理到网盘了
mysql如何加大精确度_如何通过MySQL中的除法提高精度？
weixin_42610010的博客
01-20 596
为了提高除法的精度，请使用MySQL CAST()。让我们首先创建一个表-mysql>createtableDemoTable1823(Valueint);使用插入命令在表中插入一些记录-mysql>insertintoDemoTable1823values(1);mysql>insertintoDemoTable1823values(2);mysql&g...
【已解决】MySQL：常用的除法运算+精度处理+除数为0处理
weixin_42585386的博客
03-18 5408
这个句式理解起来和用起来都很简单，唯一需要注意的点就是总位数的设置，这个数据必须设置大一些，尽量靠近数据的上限长度（浮点数的总位数最大值），我一般会设置30。如果总位数设置太小，会导致数据失真，容易导致严重的数据问题。-- 结果：-- 结果：-- 结果：-- 结果：通过观察上面这4个sql语句的执行结果，不难看出，当总位数 < 浮点数的总位数最大值时，数据就会出现“失真”现象，即：浮点数 > 总位数所能容纳的最大浮点数值。
mysql中统计精度问题
上官小斌的博客
07-08 5412
mysql数据统计 1在订单中计算orderPrice SELECT sum(order_price) as orderPrice,sum(price) as splitPrice FROM alipay_shop_split_record WHERE pass_status=1 AND  1512151.11  1498940.31 SELECT round(sum(order_
Mysql精度丢失踩坑记录
我是坏人哦
04-16 3431
mysql 除数为0显示100，保留两位小数，显示百分号的相关操作
jesseXu的博客
11-07 2313
1.处理除数为0： 使用if函数，具体语法： IF(expr1,expr2,expr3)，如果expr1的值为true，则返回expr2的值，如果expr1的值为false eg： if(a,100*c/a,100)： 如果a不为0不为空，返回正常的比值，否则返回100 2.保留两位小数： 有好几种方法：round(),truncat(),format()等，可以根据需求选用，我这里用的...
输出任意精度的除法结果
猪扒饭的专栏
06-29 727
double类型是有精度限制的，输出任意精度，需要自行计算，步骤如下： 输出a/b的整数部分，然后小数点，并记录余数x 输出10x/b的整数部分，并更新x=10x%b 不断重复步骤2，知道满足精度要求 另外一个技巧，一下的printf语句，可以在参数中修改格式字符串。m和n将替换格式字符中的*printf("%*.*f", m, n, number);#include "stdafx.h"int a
小小数据分析师的踩坑贴 | SQL除法计算错误，40/42 = 0 ？
是圣洁呀✨
08-07 628
《小小数据分析师的踩坑贴》系列 积累、总结自己工作日常中踩过的坑，希望以后不再遇到～ ???? 今天是SQL中除法运算错误的一个案例，为什么 40/42 = 0 ？
mysql 二阶精度_深入理解MySQL进阶漂流记（二）
weixin_30423065的博客
02-01 143
运算符算数运算符MySQL支持大多数通用的、允许我们执行计算的的算数运算符。“+(加法)、-(减法)、*(乘法)、/(除法，返回商)、%(除法，返回余数)”，如下例：select 1+2;//加法运算，结果为3select 2-1;//减法运算，结果为1select 3*2;//乘法运算，结果为6select 6/2;//除法运算，结果为3select 25%7;//除法运算，结果为4select...
企业人事管理系统设计——MySQL数据库实现
"数据库MySQL《数据库应用》期末大作业是一个关于企业人事管理系统的课程设计，包含E-R图、表的设计、视图设计以及系统需求分析、数据保护设计等内容。项目已正式发布，版本1.0，由未知作者完成。报告详细阐述了系统...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值