SQL计算精度丢失问题cast函数解决

已于 2022-08-24 16:28:21 修改
阅读量2.3k 收藏 2
点赞数
文章标签： mysql
于 2020-10-28 18:02:09 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/lh155136/article/details/109338196
版权
两个字段相乘 结果错误

在这里插入图片描述

单个计算正确

在这里插入图片描述

多表联查 使用cast解决
cast( ifnull( rate, 1 ) AS DECIMAL ( 10, 5 ) ) * cast( ifnull(price, 0) AS DECIMAL ( 10, 5 ) )
菜鸟fox
关注
  • 0
    点赞
  • 踩
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
SQL SERVER修改函数名容易引发的问题分析
09-10
主要介绍了SQL SERVER修改函数名容易引发的问题分析的相关资料,需要的朋友可以参考下
探讨如何计算age的sql函数
12-15
代码如下:ALTER FUNCTION [dbo].[get_FullAge](  @birthday datetime, @currentDay datetime)RETURNS INTASBEGINDECLARE @age INTSET @age = DATEDIFF(YEAR, @birthday, @currentDay)IF DATEDIFF(DAY, DATEADD(YEAR, @age, @birthday), @currentDay) <= 0 SET @age = @age – 1IF DATEPART(MONTH, @birthday) = 2 AND DATEPART(D
java ElasticSearch 使用sql函数丢失精度
c10769的博客
06-09 195
【代码】java ElasticSearch 使用sql函数丢失精度。
sql 精度 oracle 999,Spark SQL读取Oracle的number类型的数据时精度丢失问题
weixin_39717443的博客
04-15 562
Spark SQL读取数据Oracle的数据时，发现number类型的字段在读取的时候精度丢失了，使用的spark版本是Spark2.1.0的版本，竟然最后经过排查和网上查资料发现是一个bug。在Spark2.1.2以上的版本解决了这个问题。number类型的数据通过spark sql的jdbc读取的时候回变成DecimalType的类型。同时精度不会丢失，在2.1.2版本之前读取过来是IntTy...
pgsql查出来ID前后台交互Long类型精度丢失
weixin_41538417的博客
03-23 669
问题描述： pgsql id位数超过8位，实体类Long接收，前后台交互ID精确度丢失 原因分析： 数据转换Jackson问题 解决方案： ***统一配置*** package com.jiawa.wiki.config; import com.fasterxml.jackson.databind.ObjectMapper; import com.fasterxml.jackson.databind.module.SimpleModule; import com.fasterxml.jackson.da
使用PLSQL Developer 丢失精度问题
一个不愿透漏姓名的绝世强者
02-02 2151
 情况1:  数据太长而用科学计数法显示。  设置PLSQL Developer 让它显示原本的值, tools->preperences-->选择sqlwindow-->把number fields to_char复选框选中。 情况2:  Command Windows 中通过函数计算的值被截位，没有显示正确结果。在命令窗口设置显示宽度。  SET NUMWIDTH 15;  
解决SQL语句丢失精度的问题
zhengyikuangge的博客
07-16 4762
解决方法：把字段数据类型改为decimal数据类型，该数据类型用于要求非常高的精确计算中 SELECT cast(a AS decimal(10,2)l)/cast(b AS decimal(10,2)) from xxx; #10表示最大位数 2表示小数点后位数 ...
从sql关联数据异常看精度丢失问题
resemble的博客
10-08 980
目录 背景 代码测试： 测试结果： 结果说明： 原因分析： float与double的范围和精度 解决方案： 背景 bigint和string做join的时候 会先都隐式转换成double在join，可能会由于精度丢失导致join的结果不符合预期，导致sql不符合预期 代码测试： set hive.mapred.mode=nonstrict; select 90000...
SQLServer统计信息：问题和解决方案
03-01
在网上看到一篇介绍使用统计信息出现的问题已经解决方案，感觉写的非常全面。在自己看的过程中顺便做了翻译。由于本人英文水平有限，可能中间有一些错误。如果有哪里有问题欢迎大家批评指正。建议英文好的直接看原文...
SQL函数 根据出生日期精确计算年龄
09-04
sql函数 可用于pb调用，根据生日日期，自动精确计算年龄。返回格式为xx岁xx月xx天 不受闰年影响
用PHP函数解决SQL injection
12-17
SQL injection问题在ASP上可是闹得...在这种情况下，我们可以用addslashes()来解决问题，它会自动在敏感字符前添加反斜杠。 但是，上面的方法只适用于magic_quotes_gpc=Off的情况。作为一个开发者，你不知道每个用户的
sql server中的decimal或者numeric的精度问题
09-11
在sql server中定义列的数据类型decimal时需要制定其精度和小数位数。
Sql 导出 Excel 整数数据精度丢失处理
潘广宇的博客
07-08 3381
主要的问题在于Excel最大整数表示的问题，Excel最大整数支持15位，超过尾数将被置为0 假设现在id字段为大整型，约25位，则通过sql处理为： select *, concat("\t", id) as id from test; 再通过数据库的搜索结果导出到excel即可。 ...
mysql union all sum_[数据库]SQL Server UNION ALL 结果 SUM函数造成精度丢失
weixin_42360846的博客
02-27 671
[数据库]SQL Server UNION ALL 结果 SUM函数造成精度丢失0 2020-08-03 18:00:30 SQL Server 数据类型使用场景：在进行多维度汇总数据时，需要将不同数据类型，不同数据精度的数据合并成一张表时，相关计算出现精度丢失问题。问题排查：在进行分段排查后，找到丢失原因，SUM函数造成精度丢失场景在现：1. 创建表CREATE TABL...
Spark SQL读取Oracle的number类型的数据时精度丢失问题
weixin_44455388的博客
09-17 2430
Spark SQL读取Oracle的number类型的数据时精度丢失问题 在程序开发中,使用到了sparkSQL读取Oracle数据库,发现当sparkSQL读取Oracle的number类型字段时,数据的小数经度会出现了丢失的情况。 更为奇怪的是,现有三张Oracle表的字段类型都为number类型,第二种表的数据小数部分出现了丢失,另外两张表则没有问题。三张表的只是在小数位数上存在区别: 第一...
sql 保留小数位数和小数点后为零不显示处理
Yyuxiansheng的博客
06-22 9471
sql 保留小数位数和小数点后为零不显示处理
sqlserver中的CAST()函数
lijinxiu123的博客
03-27 1946
sqlserver中的CAST()函数
sql cast函数
最新发布
08-18
CAST()函数用于将一个数据类型的值转换为另一个数据类型的值。根据引用，CAST()函数和CONVERT()函数都不能执行四舍五入或截断操作。比如，如果将一个浮点数转换为整数，CAST()函数会截断小数部分而不会进行四舍五入。因此，如果使用CAST()函数将12.5转换为整数类型，会产生一个错误。 根据引用，在SQL中可以使用CAST()函数将DATE数据类型字段转换为TIMESTAMP和POSIXTIME类型。在给定的动态SQL示例中，通过执行以下语句可以将DOB字段转换为TIMESTAMP和POSIXTIME类型： ``` SELECT TOP 5 DOB,CAST(DOB AS TIMESTAMP) AS TStamp, CAST(DOB AS POSIXTIME) AS Posix FROM Sample.Person ``` 这个查询将返回DOB字段的原始值，以及将DOB字段使用CAST()函数转换为TIMESTAMP和POSIXTIME类型的结果。 在执行强制转换之前，SQL会解析内嵌的引号字符和字符串连接，同时保留前导和尾随空格，如引用所述。这意味着在进行CAST()函数转换时，SQL会正确处理引号字符和字符串连接，同时保留字段值的前导和尾随空格。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* [sql如何拼接字段值](https://blog.csdn.net/niuzaiwenjie/article/details/31353975)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] - *2* *3* [第二十二章 SQL函数 CAST（一）](https://blog.csdn.net/yaoxin521123/article/details/122466370)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 50%"] [ .reference_list ]

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值