MSSQL FLOAT 的问题挺郁闷的

最新推荐文章于 2022-02-11 16:15:44 发布
最新推荐文章于 2022-02-11 16:15:44 发布
阅读量257 收藏
点赞数
分类专栏： MSSQL 数据库类 文章标签： sql 数据库
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/aroc_lo/article/details/118600932
版权

图中的 905 * 0.815 正常的计算结果为 737.575 ，四舍五入保留两位小数就应该是：737.58

但是呢，如：jjjjj2 所显示竟然是：737.57 。其实真实的计算结果如：jjjj1所示：737.574999999。

四舍五入保留两位小数自然就是不是预期应该的数了；

这个名字，就是 float 的精度差的问题。

将其转换为精度较好的类型后果再取四舍五入就好了。

aroc_lo
关注
专栏目录
将mysql数据同步到elasticsearch时，mysql的float类型出现精度损失及解决方法
qq_31589695的博客
02-03 1918
场景描述 之前将mysql数据同步到ES，采用的是如下的架构，打造的是千万级别的实时搜索系统 详情请看 https://blog.csdn.net/laoyang360/article/details/52227541#commentBox 最近运营突然找到我说有一个问题就是为什么数据库源表这种是 2.99肿么变成了这个2.990000009536743，出现了精度上面的一些问题。一开...
MySQL数值小数位自动去零_mysql 实现excel 小数点后面自动请零
weixin_36358217的博客
02-03 1310
场景：单价的处理如：单价需要精确到小数位7位，未来计算精确，mysql中定义的类型为decimal，结果在界面回显的时候，输入的值：0.001 保存数据库中是0.0010000 希望结果为0.001 ，如输入的值是：20.00 保存数据库中是20.0000000 希望回显结果是20.00由于输入的值随机性强，特别是如果输入0, 回显时候变成oe-7 超级郁闷。。。反思苦想，只能在mysql中处理，...
ms sql server float 小数_SQL入门——第一关
weixin_39633954的博客
12-23 251
一、数据库安装：问题1：如何验证MySQL数据库安装成功？如能看到红框部分版本号，即为安装成功。问题2：如何用Navicat连接到MySQL数据库？点击“连接测试”，若提示“连接成功”，即连接属性设置正确。再点击确定，可连接到MySQL数据库。二、练习创建表：建好的4张表可以在红框里看到第1张course表表结构：表内容：第2张score表表结构：这里的成绩字段，我原先用的是int类型，就是整数。...
关于MSSQL的decimal（numeric）、money、float的使用以及区别
weixin_34375233的博客
08-28 380
decimal（numeric）、money、float（real） 都是MSSQL中的浮点类型的数据类型。 按存储的范围进行排序 float（real） decimal（numeric） money 在金额的存储上可以优先money，如果金额过大采用decimal（numeric），极端的情况（数据超大）使用float（real） money与float不会自动默认小数点...
sql使用float字段存储不精确的替代方法及原因
aiyong123123的博客
08-02 611
存储金额为了偷懒使用了float这个字段类型。结果发现部分小数类型输出不准确。一脸懵逼 然后使用了decimal这个字段类型解决。 产生的原因应该是十进制转换二进制存储产生的。 对十进制小数乘2得到的整数部分和小数部分,整数部分既是相应的二进制数码,再用2乘小数部分(之前乘后得到新的小数部分),又得到整数和小数部分.如此不断重复,直到小数部分为0或达到精度要求为止.第一次所得到为最...
MS SQL大值数据类型varchar(max)、nvarchar(max)、varbinary(max)
无问的专栏
11-19 3133
在MS SQL2005及以上的版本中，加入大值数据类型（varchar(max)、nvarchar(max)、varbinary(max) ）。大值数据类型最多可以存储2^30-1个字节的数据。这几个数据类型在行为上和较小的数据类型 varchar、nvarchar 和 varbinary 相同。微软的说法是用这个数据类型来代替之前的text、ntext 和 image 数据类型，它们之间
MYSQL学习笔记
weixin_42228705的博客
10-21 488
一天学会mysql笔记 https://www.bilibili.com/video/av39807944
MySQL数据库学习教程，从0到入门
a1272159758的博客
10-11 826
mysql day01课堂笔记 1、什么是数据库？什么是数据库管理系统？什么是SQL？他们之间的关系是什么？ 数据库： 英文单词DataBase，简称DB。按照一定格式存储数据的一些文件的组合。 顾名思义：存储数据的仓库，实际上就是一堆文件。这些文件中存储了 具有特定格式的数据。 数据库管理系统： DataBaseManagement，简称DBMS。 数据库管理系统是专门用来管理数据库中数据的，数据库管理系统可以 对数据库当中的数据进行增删改查。 常见的数据库管理系统： MySQL、O
mondrain配置mysql_Mondrian+JPivot+Mysql Web项目实现OLAP
weixin_42648844的博客
01-27 165
通过参考网上的教程及资料，终于成功跑通了例子，特记录下来，以备日后查看。环境配备：JDK1.6+Eclipse Java EE IDE for Web Developers+Mysql+Mondrian3.5.压缩包+jpivot-1.8.0.zip,其中，jpivot-1.8.0.zip是为了替代Mondrian3.5.压缩包中mondrian.war文件中的jpivot.jar,mondria...
MS SQL Server中大数据量表的查询优化
10-22
在MS SQL Server中如何处理记录条数2000万以上且每日增加20万条的数据表,相信是很多开发人员面临的难题.本文以实际案例描述了此问题的解决方法及其存在的问题.在SQL Server 2000中,可以通过分区视图的定义来支持大数据量表的水平拆分和查询时的数据合并,且查询引擎提供的优化机制,使得SQL Server在大数据量条件下的查询性能得到了明显改进.最后,指础了本解决方法所带来的问题及其适用范围.
SQL数据类型
weixin_30834783的博客
02-28 165
数据类型 类型 描 述 bit 整型 bit 数据类型是整型，其值只能是0、1或空值。这种数据类型用于存储只有两种可能值的数据，如Yes 或No、True 或Fa lse 、On 或Off int 整型 int 数据类型可以存储从- 231(-2147483648)到231 (2147483 6...
SQL2000的数据类型
飞扬的汤圆的专栏
03-26 1267
在计算机中数据有两种特征：类型和长度。所谓数据类型就是以数据的表现方式和存储方式来划分的数据的种类。在SQL Server 中每个变量、参数、表达式等都有数据类型。系统提供的数据类型分为几大类，如表所示。其中，BIGINT、 SQL_VARIANT 和TABLE 是SQL Server 2000 中新增加的3 种数据类型。下面分类讲述各种数据类型。4.3.1 整数数据类型 整数数据类型是最常用的数
sql语句取浮点数的处理办法
佳瑞的博客
07-19 1761
如以下代码，从mysql数据库中取某一字段的求和，self_profit字段为浮点数，对该列数据进行求和时，总数肯定也为浮点数。 @Select("SELECT SUM(`profit`) FROM `sale` WHERE YEAR(created_time) = YEAR(NOW()) and id = #{id}") Float calTotalProfit(Long id); 取到的总数totalSales必须经过非空判断，否则会出现空指针异常的错误。 Float totalSales = st
mysql：列类型之float、double
热门推荐
火焰
02-11 1万+
环境： window10 vs2022 .net 6 mysql 8.0.25 DBeaver 参考： 《MSDN：浮点数值类型（C# 引用）》 《mysql：11.1.4 Floating-Point Types (Approximate Value) - FLOAT, DOUBLE》 1. float和double类型 在mysql中，float和double都是浮点数类型： float 占4个字节，精度是6位； double 占8个字节，精度是16位； 它们的性质和c#中浮点数的性质是一样
mysql float 误差_mysql float精度与范围总结
weixin_34168834的博客
02-01 784
FLOAT类型用于表示近似数值数据类型。SQL标准 允许在关键字FLOAT后面的括号内选择用位指定精度(但不能为指数范围)。MySQL还支持可选的只用于确定存储大小的精度规定。0到23的精度对应 FLOAT列的4字节单精度。24到53的精度对应DOUBLE列的8字节双精度。单精度浮点数用4字节(32bit)表示浮点数采用IEEE754标准的计算机浮点数，在内部是用二进制表示的如：7.22用32位二...
MSSQL常用数据类型
Brent的专栏
07-22 5345
1.字符类型 一般常用的varchar,char,text等,其中varchar为可变长,char为定长.varchar使用的好处是可以节约空间.char的好处是效率可能较高. 数据类型 描述 存储空间 char(n) n为1-8000字符之间 n字节 nchar(n) n为1-4000 unicode字符之间
MSSQL数据库的字段类型总结
学习亦游戏
07-13 6056
数据类型是数据的一种属性，表示数据所表示信息的类型。任何一种计算机语言都定义了自己的数据类型。当然，不同的程序语言都具有不同的特点，所定义的数据类型的各类和名称都或多或少有些不同。SQLServer提供了25种数据类型： 　　·Binary[(n)] 　　·Varbinary[(n)] 　　·Char[(n)] 　　·Varchar[(n)] 　　·Nchar[(n)] 　　·Nvar
mysql FLOAT
最新发布
09-12
在MySQL中，FLOAT是一种浮点数类型，用于存储单精度浮点数。默认情况下，MySQL将FLOAT作为DOUBLE处理，即双精度浮点数。如果将SQL模式设置为启用"REAL_AS_FLOAT"，则MySQL会将REAL视为FLOAT。要启用"REAL_AS_FLOAT...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值