mysql-笔记 精度

decimal数据类型是fixed-point类型，计算结算是准确的。numeric/dec/fixed / integer

float/double数据类型是 floating-point类型，计算结果是大约的。float/double/double precision/real

Decimal(M,D):

M 最大精度位数 1到65

D小数位数 0到30，不能大于M

如里 D被忽略，默认为0，如果M被忽略，默认是10

0 位 需要0个字节

1-2位 需要 1个字节

3-4位 需要2个字节

5-6 位 需要 3个字节

7-9 位 需要4个字节

整数位与小数是分别计算存储字节的。

decimal(20,6) 整数部分占 4+3个字节，小数部分占 3个字节

decimal 列不存储：+ - ，不允许值大于定义的长度 decimal(M,D)列，允许M-D位在小数占左侧

1 round() 对于精确类型的数字四舍五入；对于近似类型的数字，取最近的偶数

select (.1+.2)=.3; select (.1E0+.2E0)=.3E0;

2 使用 准确值 生成的列是decimal number 类型，使用近似值生成的列是float/double类型

create table t select 2.5 as a,25E-1 as b;

3 在decimal 列上取聚合数据也是decimal 类型，在double类型上取聚合数据也是double类型

 

转载于:https://www.cnblogs.com/caojuansh/p/10969205.html