DECIMAL 与 FLOAT 比较

最新推荐文章于 2021-07-15 09:21:56 发布
最新推荐文章于 2021-07-15 09:21:56 发布
阅读量1.9k 收藏
点赞数
分类专栏： # java杂记 文章标签： DECIMAL 与 FLOAT
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_39966065/article/details/99763367
版权
本文比较了Java中的Double与Float的区别，以及DB2中的REAL、DOUBLE与DECFLOAT数据类型的特性和使用场景。FLOAT在性能上具有优势，但DECFLOAT提供更高的精确度，适用于需要精确十进制计算的业务。在大量数据传输中，DECIMAL额外的0可能影响效率。
摘要由CSDN通过智能技术生成

目录

 

一：一般Java程序中

二：DB2中的单双精度

（1）定义

（2）精确性

（3）性能优势

一：一般Java程序中


Double 与 Float 的区别：
　　01.在内存中占有的字节数不同

　　　　单精度浮点数在机内存占4个字节

　　　　双精度浮点数在机内存占8个字节

　　02.有效数字位数不同

　　　　单精度浮点数有效数字8位

　　　　双精度浮点数有效数字16位

　　03.数值取值范围

　　　　单精度浮点数的表示范围：-3.40E+38~3.40E+38

　　　　双精度浮点数的表示范围：-1.79E+308~-1.79E+308

　　04.在程序中处理速度不同

　　　　一般来说，CPU处理单精度浮点数的速度比处理双精度浮点数快

二：DB2中的单双精度


（1）定义


REAL:单精度浮点 32位  近似值 可以是零，或者可以从-3.4028234663852886e + 38到-1.1754943508222875e-38或者从1.1754943508222875e-38到3.4028234663852886e + 38。

DOUBLE或FLOAT:双精度浮点 64位  近似值。该数字可以是零，或者可以从-1.7976931348623158e + 308到-2.2250738585072014e-308

最低0.47元/天 解锁文章
威少SOS
关注
专栏目录
C#基础-decimal，double和float的区别总结
qq_30725967的博客
04-03 1万+
1.精度和位数的区别： float 单精度浮点 32bit， double 双精度浮点64bit， decimal是高精度 128bit，浮点型。 float double 是 基本类型（primitive type），decimal不是。 float 有效数字7位，范围 ±1.5 × 10E−45 to ±3.4 × 10E38 double 有效数字15/16 位，范围 ±5.0 × 10 E...
decimal与 float的区别
weixin_30654583的博客
01-08 688
decimal 数据类型最多可存储 38 个数字，所有数字都能够放到小数点的右边。decimal 数据类型存储了一个准确（精确）的数字表达法；不存储值的近似值。 定义 decimal 的列、变量和参数的两种特性如下： · p 小数点左边和右边数字之和，不包括小数点。如 123.45,则 p=5，s=2。 指定精度或对象能够控制的数字个数。 · s 指定可放到小数点右边的小数位数或数字...
decimal 和 float
longwensun的专栏
12-21 557
decimal 和 float 在基础上是完全不同的数据类型 decimal 是存储的是精确值，float则是近似值 decimal(n) 数值范围 1E-38 to -1E-38 有效数字 38位 float(n) 数值范围 - 1....
decimal和float类型的区别
shirlly
12-19 817
decimal 类型可以精确地表示非常大或非常精确的小数。大至 1028（正或负）以及有效位数多达 28 位的数字可以作为 decimal 类型存储而不失其精确性。该类型对于必须避免舍入错误的应用程序（如记账）很有用。 float是浮点数，不能指定小数位，精度很高。 decimal是精确数，可以指定精度。 对mysql 5来说 decimal(p,s)中p最大为65，S最大为30 ...
float和decimal的区别
一字并肩王的博客
12-06 2913
decimal和float的标记
数据库 数据类型float到C#类型decimal, float数据类型转化无效
10-29
在标题中提到的“数据库数据类型float到C#类型decimal, float数据类型转化无效”中，问题的核心在于尝试将数据库中float类型的数据转换为C#中的decimal类型时出现错误。这个问题通常发生在数据从数据库中取出后，...
MySQL中Decimal类型和Float Double的区别(详解)
09-09
本文主要探讨了Decimal、Float和Double三种数据类型之间的差异，特别是在处理数值计算时的精度问题。 首先，`Float`和`Double`是非标准的浮点数数据类型，它们在数据库内部存储的是近似值。这意味着在存储和计算...
详细分析sqlserver中的小数类型（float和decimal）
01-19
在SQL Server中实际上只有两种小数数值类型，分别是float（近似数值）和decimal（精确数值），这两种类型能表示所有的小数数值类型。 float（近似数值类型） float表示的是近似数值，存在一定的精度缺失。 float(n)...
MySQL中float、double、decimal三个浮点类型的区别与总结!
极客小俊
08-14 8222
那么多浮点用哪个？
decimal float
05-21 419
在MySQL中我们经常会用到一些高精度和长度的数据类型，例如对于金额的时候，一般会选择 decimal 或者 numeric 类型。 当然在遇到金额计量的时候也尝试过 float 类型，float(M,D)后来，在精度精确到小数点8为的时候，保存的同时就发现了问题，最后一位会四舍五入，而不是自己手动输入的值。后来查阅了相关资料才找到原因： 区别： 在MySQL中，loat，double 等非标准类型，在DB中保存的是近似值。 而 Decimal 则以字符串的形式保存数值。 解释： float，double
decimal，float和double的区别是什么？
hellojoy的博客
06-22 8058
https://zhuanlan.zhihu.com/p/352503879 今天复习mysql理论知识，在看常用数据类型的时候发现float和decimal类型都是表示小数，就展开搜索学习了一下区别，分享给大家： 表示小数的一共有三种类型：float是单精度，double是双精度，decimal是数字型，它们所占的内存空间不一样，表示的位数也不一样。 1、精度： float单精度小数部分能精确到小数点后面6位，用 32 位二进制进行描述 double双精度小数部分能精确到小数点后的15.
【MySQL】MySQL中常用的数据类型float和decimal、char和varchar、datetime和timestamp、enum和set
Sunnyside_
03-31 2853
文章目录一、数据类型的分类二、小数类型2.1 float 类型2.2 decimal 类型2.3 /etc/my.cnf三、字符串类型3.1 char 类型3.2 varchar 类型3.3 如何选择固定长度还是变长字符串四、时间日期类型4.1 date4.2 datetime4.3 timestamp五、string类型5.1 enum类型5.2 set类型 一、数据类型的分类 数值大小 补充： 在MySQL中，整型可以指定有/无符号，默认是有符号的；通过unsigned来说明某个字段是无符号.
mysql float、decimal类型介绍
赶路人儿
08-14 4280
一、浮点数： float和double类型表示近似数字数据值（浮点数），前者是单精度mysql用4个字节存储，后者是双精度用8个字节存储。 对于浮点数，SQL标准允许在浮点数后跟一个括号来指定精度（以位为单位，而不是指数的范围），例如：float（p）。 mysql也支持此可选的精度规范，float（p）中的精度值仅用于确定存储大小，从0到23的精度导致4字节单精度float列；从24到53的精度导致8字节的双精度double列。 mysql还允许使用非标准语法：float（M，D）或real（M，D
float、double(浮点数)区别还有和decimal(定点数)的比较
cristianoxm的博客
07-15 5123
一、三者的区别介绍 float:浮点型，含字节数为4，32bit，数值范围为-3.4E38~3.4E38（7个有效位） double:双精度实型，含字节数为8，64bit数值范围-1.7E308~1.7E308（15个有效位） decimal:数字型，128bit，不存在精度损失，常用于银行帐目计算。（28个有效位） 单精度浮点数在机内占4个字节，用32位二进制描述。 双精度浮点数在机内占8个字节，用64位二进制描述。 浮点数在机内用指数型式表示，分解为：数符，尾数，指数符，指数四部分。 数符占1位
C#里float、double、decimal区别
ngaicen的专栏
05-01 944
个人对此三个数的理解： 1 float 1.1 包含其表示范围内的全部整数； 1.2 包含其表示范围内的部分小数（单精度）。 2 double 2.1 包含其表示范围内的全部整数； 2.2 包含其表示范围内的部分小数（双精度）； 2.3 包含所有float； 2.4 比float范围大，精度高。 3 decimal 3.1 包含其表示范围内的全部整数； 3.2 包含其表示范围...
decimal与float
junshangshui的专栏
12-15 1523
<br />declare @a1 float<br />declare @a2 decimal(18,2)<br />set @a1=1.2<br />set @a2=2<br />print @a1*@a2    --2.4<br /><br />declare @a1 decimal(18,2)<br />declare @a2 decimal(18,2)<br />set @a1=1.2<br />set @a2=2<br />print @a1*@a2    --2.4000<br /><br /
mysql中decimal与float_MYSQL教程MySQL中Decimal类型和Float Double的区别(详解)
weixin_29658641的博客
02-08 225
《MYSQL教程MySQL中Decimal类型和Float Double的区别(详解)》要点：本文介绍了MYSQL教程MySQL中Decimal类型和Float Double的区别(详解)，希望对您有用。如果有疑问，可以联系我们。MYSQL实例MySQL中存在float,double等非标准数据类型,也有decimal这种标准数据类型.MYSQL实例其区别在于,float,double等非标准类型...
java float计算_Java如何精确计算小数（Float和Double和BigDecimal）
weixin_39854923的博客
02-19 736
一、浮点计算中发生精度丢失无论你使用的是什么编程语言，在使用浮点型数据进行精确计算时，你都有可能遇到计算结果出错的情况。public classFloatTest {public static voidmain(String[] args) {float f1 = 6.6f;float f2 = 1.3f;System.out.println(f1 +f2);}}*****************...
python中decimal与float的区别
最新发布
04-27
在Python中，Decimal和float都是数字类型，但它们有一些关键的区别： 1. 精度：Decimal具有任意精度，可以精确表示小数，而float只能保证一定的精度，因此在进行高精度计算时，Decimal通常更可靠。 2. 存储方式：...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值