mysql 中的浮点和定点类型 .

转载 2012年03月21日 17:23:21
 

前面一段实验是引用别人的,后面作了一点补充

MySQL浮点型和定点型可以用类型名称后加(M,D)来表示,M表示该值的总共长度,D表示小数点后面的长度,M和D又称为精度和标度,如 float(7,4)的可显示为-999.9999,MySQL保存值时进行四舍五入,如果插入999.00009,则结果为999.0001。 FLOAT和DOUBLE在不指定精度时,默认会按照实际的精度来显示,而DECIMAL在不指定精度时,默认整数为10,小数为0。

创建下表:
mysql> CREATE TABLE t2(id1 FLOAT(5,2) DEFAULT NULL,id2 DOUBLE(5,2) DEFAULT NULL,id3 DECIMAL(5,2) DEFAULT NULL);

mysql> DESC t2;
+-------+--------------+------+-----+---------+-------+
| Field | Type         | Null | Key | Default | Extra |
+-------+--------------+------+-----+---------+-------+
| id1   | float(5,2)   | YES  |     | NULL    |       |
| id2   | double(5,2)  | YES  |     | NULL    |       |
| id3   | decimal(5,2) | YES  |     | NULL    |       |
+-------+--------------+------+-----+---------+-------+

往id1,id2,id3这三个字段中插入数据1.23:

mysql> INSERT INTO t2(id1,id2,id3) VALUES(1.23,1.23,1.23);

mysql> SELECT * FROM t2;
+------+------+------+
| id1  | id2  | id3  |
+------+------+------+
| 1.23 | 1.23 | 1.23 |
+------+------+------+

数据都正确插入,再向id1插入1.234,id2插入1.234,id3仍然插入1.23:
mysql> INSERT INTO t2(id1,id2,id3) VALUES(1.234,1.234,1.23);

mysql> SELECT * FROM t2;
+------+------+------+
| id1  | id2  | id3  |
+------+------+------+
| 1.23 | 1.23 | 1.23 |
| 1.23 | 1.23 | 1.23 |
+------+------+------+

数据全部正确插入,但是id1和id2由于标度的限制,舍去了最后一位。

同时向id1,id2,id3中插入数据1.234:

mysql> INSERT INTO t2(id1,id2,id3) VALUES(1.234,1.234,1.234);
Query OK, 1 row affected, 1 warning (0.02 sec)
mysql> SELECT * FROM t2;
+------+------+------+
| id1  | id2  | id3  |
+------+------+------+
| 1.23 | 1.23 | 1.23 |
| 1.23 | 1.23 | 1.23 |
| 1.23 | 1.23 | 1.23 |
+------+------+------+
3 rows in set (0.00 sec)

数据也插入成功,但是有一个错误提示,

mysql> SHOW warnings;
+-------+------+------------------------------------------+
| Level | Code | Message                                  |
+-------+------+------------------------------------------+
| Note  | 1265 | Data truncated for column 'id3' at row 1


为什么会有错误呢?这里与mysql 的模式有关,可以用

SET sql_mode = ''让错误不显示;设置运行模式,这条语句让即强制不设定MySql模式(如不作输入检测、错误提示、语法模式检查等)应该能提高性能,但有如下问题: 如果插入了不合适数据(错误类型或超常),mysql会将数据设为“最好的可能数据”而不报错,如: /数字 设为:0/可能最小值/可能最大值 /字符串 设为:空串/能够存储的最大容量字符串 /表达式 设为:返回一个可用值(1/0-null) 所以,解决办法是:所有列都要采用默认值,这对性能也好。 一般的sql 模式有: 在mysql 5中,默认的是REAL_AS_FLOAT,PIPES_AS_CONTACT,ANSI_QUOTES,GNORE_SPACE和ANSI, 在这种模式下,允许插入超过字段长度的值,只是插入后,返回的是警告而不是错误,当用STRICT_TRANS_TABLES时, 则是错误了,严格的警告. NO_AUTO_CREATE_USER 防止GRANT自动创建新用户,除非还指定了密码。 对于他们在磁盘上的存储也不同 对于浮点型,float 占4个字节 double 占8字节 无论你选择的是float还是double 在mysql 内部进行计算时都采用doublel类型 在对定点存储时,数字是9个数字占用4哥字节,小数点单独占用一个字节

相关文章推荐

mysql 中的浮点和定点类型

前面一段实验是引用别人的,后面作了一点补充 MySQL浮点型和定点型可以用类型名称后加(M,D)来表示,M表示该值的总共长度,D表示小数点后面的长度,M和D又称为精度和标度,如 float(7,4)...

MySQL数据库浮点数据类型的坑

今天在盘点的时候折腾了一次,在创建表的时候么有关注到浮点数的精度问题,导致排查问题浪费了很长时间. 场景:汇总报表,将查出的数据插入另外一张表中,查出来的数据是小数,转成另一张表对应的javab...

mysql整数浮点数据类型

数据类型 1、有符号数计算原理如tinyint占1字节即8位:-2的7次方=-128~2的7次方-1=127) tinyint 占1字节 无符号数取值范围0~255,有符号数取值范围-128~12...

MySQL 浮点类型

MySQL浮点类型的运用

MySql 基础学习笔记 1——概述与基本数据类型: 整型: 1)TINYINT 2)SMALLINT 3) MEDIUMINT 4)INT 5)BIGINT 主要是大小的区别 图 浮点型:命令

一、CMD中常用mysql相关命令 mysql -D, --database=name  //打开数据库 --delimiter=name  //指定分隔符 -h, --host=nam...
  • sjyhehe
  • sjyhehe
  • 2015年03月13日 15:34
  • 882

mysql的float类型是单精度浮点类型导致数据误差.

单精度浮点数用4字节(32bit)表示浮点数 采用IEEE754标准的计算机浮点数,在内部是用二进制表示的 如:7.22用32位二进制是表示不下的。 所以就不精确了。 mysql中float数...

使用c语言编写的定点和浮点fft

  • 2011年04月14日 19:17
  • 407KB
  • 下载

FPGA浮点小数与定点小数的换算及应用

定点小数运算 有些FPGA中是不能直接对浮点数进行操作的,只能采用定点数进行数值运算。 所谓定点小数就是把小数点的位置固定,我们要用整数来表示小数。 先以10进制为例。如果我们能够计算12+34...
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:mysql 中的浮点和定点类型 .
举报原因:
原因补充:

(最多只允许输入30个字)