decimal 和 float

最新推荐文章于 2021-06-22 13:54:18 发布
最新推荐文章于 2021-06-22 13:54:18 发布
阅读量528 收藏 1
点赞数
分类专栏： 编程小拾 文章标签： 金融
decimal 和 float 在基础上是完全不同的数据类型

decimal 是存储的是精确值，float则是近似值

decimal(n)
数值范围 1E-38 to -1E-38
有效数字 38位


float(n)
数值范围 - 1.79E+308 to -2.23E-308, 0 and 2.23E-308 to 1.79E+308
有效数字 7 or 15

结论:

decimal 精度高, 数值范围小,float 精度低, 数值范围大
decimal 运算速度比float快, 使用float时避免使用 = 运算(因为float的不确定性)
decimal 适合金融, 统计, float适合科学运算
----------------------------------------------------
1.金额数据量的大小,量大用float,能省好多空间
2.运算与精度要求,要求高用decimal
------------------------------------------------------
用float 存到数据库会出现10.000000887788
后面的数字0887788是随机的，处理起来比较麻烦，实际开发经验
longwensun
关注
  • 0
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
DECIMAL 与 FLOAT 比较
威少（微笑）
08-19 1892
目录 一：一般Java程序中 二：DB2中的单双精度 （1）定义 （2）精确性 （3）性能优势 一：一般Java程序中 Double 与 Float 的区别： 　　01.在内存中占有的字节数不同 　　　　单精度浮点数在机内存占4个字节 　　　　双精度浮点数在机内存占8个字节 　　02.有效数字位数不同 　　　　单精度浮点数有效数字8位 　　　　双精度浮点数有效数字1...
decimal与 float的区别
weixin_30654583的博客
01-08 669
decimal 数据类型最多可存储 38 个数字，所有数字都能够放到小数点的右边。decimal 数据类型存储了一个准确（精确）的数字表达法；不存储值的近似值。 定义 decimal 的列、变量和参数的两种特性如下： · p 小数点左边和右边数字之和，不包括小数点。如 123.45,则 p=5，s=2。 指定精度或对象能够控制的数字个数。 · s 指定可放到小数点右边的小数位数或数字...
decimal与float
junshangshui的专栏
12-15 1513
<br />declare @a1 float<br />declare @a2 decimal(18,2)<br />set @a1=1.2<br />set @a2=2<br />print @a1*@a2    --2.4<br /><br />declare @a1 decimal(18,2)<br />declare @a2 decimal(18,2)<br />set @a1=1.2<br />set @a2=2<br />print @a1*@a2    --2.4000<br /><br /
float和decimal的区别
一字并肩王的博客
12-06 2898
decimal和float的标记
decimal类型对象里面定义什么类型_MySQL中Decimal类型和Float Double的区别(详解)
weixin_35696092的博客
01-14 318
MySQL中存在float,double等非标准数据类型，也有decimal这种标准数据类型。其区别在于，float，double等非标准类型，在DB中保存的是近似值，而Decimal则以字符串的形式保存数值。float，double类型是可以存浮点数(即小数类型)，但是float有个坏处，当你给定的数据是整数的时候，那么它就以整数给你处理。这样我们在存取货币值的时候自然遇到问题，我的defaul...
MySQL中Decimal类型和Float Double的区别(详解)
09-09
本文主要探讨了Decimal、Float和Double三种数据类型之间的差异，特别是在处理数值计算时的精度问题。 首先，`Float`和`Double`是非标准的浮点数数据类型，它们在数据库内部存储的是近似值。这意味着在存储和计算...
数据库 数据类型float到C#类型decimal, float数据类型转化无效
10-29
数据库 数据类型float到C#类型decimal, float数据类型转化无效的解决方法
详细分析sqlserver中的小数类型（float和decimal）
01-19
在SQL Server中实际上只有两种小数数值类型，分别是float（近似数值）和decimal（精确数值），这两种类型能表示所有的小数数值类型。 float（近似数值类型） float表示的是近似数值，存在一定的精度缺失。 float(n)...
decimal float
05-21 407
在MySQL中我们经常会用到一些高精度和长度的数据类型，例如对于金额的时候，一般会选择 decimal 或者 numeric 类型。 当然在遇到金额计量的时候也尝试过 float 类型，float(M,D)后来，在精度精确到小数点8为的时候，保存的同时就发现了问题，最后一位会四舍五入，而不是自己手动输入的值。后来查阅了相关资料才找到原因： 区别： 在MySQL中，loat，double 等非标准类型，在DB中保存的是近似值。 而 Decimal 则以字符串的形式保存数值。 解释： float，double
python浮点数类型与数学_Python3标准库：decimal定点数和浮点数的数学运算
weixin_39572764的博客
11-21 264
1. decimal定点数和浮点数的数学运算decimal模块实现了定点和浮点算术运算，使用的是大多数人所熟悉的模型，而不是程序员熟悉的模式(即大多数计算机硬件实现的IEEE浮点数运算)。Decimal实例可以准确的表示如何数，对其上火其下取整，还可以限制有效数字的个数。1.1 Decimal小数值被表示为Decimal类的实例。构造函数取一个整数或字符串作为参数。在使用浮点数创建Decimal之...
mysql float、decimal类型介绍
赶路人儿
08-14 3758
一、浮点数： float和double类型表示近似数字数据值（浮点数），前者是单精度mysql用4个字节存储，后者是双精度用8个字节存储。 对于浮点数，SQL标准允许在浮点数后跟一个括号来指定精度（以位为单位，而不是指数的范围），例如：float（p）。 mysql也支持此可选的精度规范，float（p）中的精度值仅用于确定存储大小，从0到23的精度导致4字节单精度float列；从24到53的精度导致8字节的双精度double列。 mysql还允许使用非标准语法：float（M，D）或real（M，D
mysql中decimal与float_MYSQL教程MySQL中Decimal类型和Float Double的区别(详解)
weixin_29658641的博客
02-08 215
《MYSQL教程MySQL中Decimal类型和Float Double的区别(详解)》要点：本文介绍了MYSQL教程MySQL中Decimal类型和Float Double的区别(详解)，希望对您有用。如果有疑问，可以联系我们。MYSQL实例MySQL中存在float,double等非标准数据类型,也有decimal这种标准数据类型.MYSQL实例其区别在于,float,double等非标准类型...
decimal和float类型的区别
shirlly
12-19 797
decimal 类型可以精确地表示非常大或非常精确的小数。大至 1028（正或负）以及有效位数多达 28 位的数字可以作为 decimal 类型存储而不失其精确性。该类型对于必须避免舍入错误的应用程序（如记账）很有用。 float是浮点数，不能指定小数位，精度很高。 decimal是精确数，可以指定精度。 对mysql 5来说 decimal(p,s)中p最大为65，S最大为30 ...
decimal，float和double的区别是什么？
hellojoy的博客
06-22 7346
https://zhuanlan.zhihu.com/p/352503879 今天复习mysql理论知识，在看常用数据类型的时候发现float和decimal类型都是表示小数，就展开搜索学习了一下区别，分享给大家： 表示小数的一共有三种类型：float是单精度，double是双精度，decimal是数字型，它们所占的内存空间不一样，表示的位数也不一样。 1、精度： float单精度小数部分能精确到小数点后面6位，用 32 位二进制进行描述 double双精度小数部分能精确到小数点后的15.
MySQL中decimal与float的区别
K.Sun
05-24 1581
创建一张表：CREATE TABLE `dvf` ( `id` int(11) NOT NULL AUTO_INCREMENT, `field1` decimal(10,2) DEFAULT NULL, `field2` float(10,2) DEFAULT NULL, PRIMARY KEY (`id`) ) ENGINE=InnoDB AUTO_INCREMENT=4 DEFA
C#基础-decimal，double和float的区别总结
热门推荐
qq_30725967的博客
04-03 1万+
1.精度和位数的区别： float 单精度浮点 32bit， double 双精度浮点64bit， decimal是高精度 128bit，浮点型。 float double 是 基本类型（primitive type），decimal不是。 float 有效数字7位，范围 ±1.5 × 10E−45 to ±3.4 × 10E38 double 有效数字15/16 位，范围 ±5.0 × 10 E...
java double float decimal int long 等数值型类型的范围及精度的问题
xiaoliuliu2050的专栏
11-14 4014
浮点数： 它是用来表示实数的一种方法，它用 M(尾数) * B( 基数)的E(指数）次方来表示实数，相对于定点数来说，在长度一定的情况下，具有表示数据范围大的特点。但同时也存在误差问题，这就是著名的浮点数精度问题！ 浮点数有多种实现方法，计算机中浮点数的实现大都遵从 IEEE754 标准，IEEE754 规定了单精度浮点数和双精度浮点数两种规格，单精度浮点数用4字节（32bit）表示浮...
decimal, double, float
weixin_30699463的博客
08-10 120
更新: 2019-09-08 c# and js 要 ceil floor 2 decimal point 都没有 build in 的 solution 比如 15.667 想 ceil to 15.67 做法是 Math.Ceilling(15.667 * 100) / 100 先做一个乘 100 然后除 100 js 的用 big.js new Big(15.6...
数据类型Decimal和Float的区别是什么
最新发布
05-15
Decimal 和 Float 都是数值类型，但是它们有一些重要的区别： 1. 精度不同：Decimal 的精度比 Float 更高，可以表示更大范围的数字，并且可以保留更多小数位数。Decimal 可以精确地表示任何小数，而 Float 则会出现舍入误差。 2. 存储方式不同：Decimal 基于十进制存储，而 Float 基于二进制存储。 3. 运算速度不同：由于 Decimal 的精度更高，它需要更多的计算来完成相同的运算，因此在处理大量数据时，Float 的运算速度更快。 4. 内存占用不同：Decimal 占用的内存空间比 Float 大，因为 Decimal 存储的精度更高。 因此，在需要高精度的计算时，应该使用 Decimal；而在需要快速进行浮点运算时，应该使用 Float。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值