浮点类型和定点类型

最新推荐文章于 2024-01-17 01:00:00 发布
最新推荐文章于 2024-01-17 01:00:00 发布
阅读量2k 收藏
点赞数
文章标签： 数据库
原文链接：http://www.cnblogs.com/bibiafa/p/9178191.html
版权

浮点类型

表结构

Create Table: CREATE TABLE `t1` (
  `id` int(11) NOT NULL AUTO_INCREMENT,
  `fl` float DEFAULT NULL,
  `do` double DEFAULT NULL,
  PRIMARY KEY (`id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8

 浮点类型包括单精度类型float和双精度类型double，它俩的本质区别是字节数不同。float类型保存6位有效数，超出6位的被四舍五入，double类型保存15位有效数。

insert into t1 (fl) values (123456),(1234567);

 执行结果：

+----+---------+------+
| id | fl      | do   |
+----+---------+------+
|  1 |  123456 | NULL |
|  2 | 1234570 | NULL |
+----+---------+------+

 1234567超出了6位，则第七位被四舍五入。第七位后面的位数全部置0

 

insert into t1 (fl) values (12345616234);

 执行结果：

+----+-------------+------+
| id | fl          | do   |
+----+-------------+------+
|  1 |      123456 | NULL |
|  2 |     1234570 | NULL |
|  3 | 12345600000 | NULL |
+----+-------------+------+

 

 insert into t1 (fl) values (12.345616234);

 执行结果：

+----+-------------+------+
| id | fl          | do   |
+----+-------------+------+
|  1 |      123456 | NULL |
|  2 |     1234570 | NULL |
|  3 | 12345600000 | NULL |
|  4 |     12.3456 | NULL |
+----+-------------+------+

 12.345616234被四舍五入为12.345600000

 为float类型指定精度时

 alter table t1 modify fl float(20);
 show create table t1\G;

 执行结果：

Create Table: CREATE TABLE `t1` (
  `id` int(11) NOT NULL AUTO_INCREMENT,
  `fl` float DEFAULT NULL,
  `do` double DEFAULT NULL,
  PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=5 DEFAULT CHARSET=utf8

 可以看到fl的类型是float,并没有显示精度20。

 

insert into t1 (fl) values (123456),(1234567),(12345616234),(12.345616234);

 执行结果：

+----+-------------+------+
| id | fl          | do   |
+----+-------------+------+
|  1 |      123456 | NULL |
|  2 |     1234570 | NULL |
|  3 | 12345600000 | NULL |
|  4 |     12.3456 | NULL |
+----+-------------+------+

 结果和没有设置float精度一样。

 float(m),m <= 24时，字段类型是float, m > 24 时，字段类型会变成double类型

alter table t1 modify fl float(25);

 执行结果：

Create Table: CREATE TABLE `t1` (
  `id` int(11) NOT NULL AUTO_INCREMENT,
  `fl` double DEFAULT NULL,
  `do` double DEFAULT NULL,
  PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=5 DEFAULT CHARSET=utf8

 也就是说float(m)格式时，m的作用是用来判断类型的。但是double类型不存在double(m)这种语法

alter table t1 modify do double(10);

 执行结果：报错

 为float类型指定精度和标度

表结构

Create Table: CREATE TABLE `t1` (
  `id` int(11) NOT NULL AUTO_INCREMENT,
  `fl` float(7,4) DEFAULT NULL,
  `do` double DEFAULT NULL,
  PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=2 DEFAULT CHARSET=utf8

 

insert into t1 (fl) values (12345);

执行结果：

+----+----------+------+
| id | fl       | do   |
+----+----------+------+
|  1 | 999.9999 | NULL |
+----+----------+------+

 float(m,d):m表示总长度，d表示小数位长度。m-d表示整数部分长度

12345以12345.0000形式存储，由于整数部分超出了长度范围，则实际保存的是(m,d)能表示的最大值

insert into t1 (fl) values (123.4567);

执行结果：

+----+----------+------+
| id | fl       | do   |
+----+----------+------+
|  1 | 999.9999 | NULL |
|  2 | 123.4567 | NULL |
+----+----------+------+

刚好完整插入

insert into t1 (fl) values (123.45678);

执行结果：

+----+----------+------+
| id | fl       | do   |
+----+----------+------+
|  1 | 999.9999 | NULL |
|  2 | 123.4567 | NULL |
|  3 | 123.4568 | NULL |
+----+----------+------+

小数位保留4位，第五位被四舍五入。

 float(4,4)时

insert into t1 (fl) values (12345);

执行结果：

+----+----------+------+
| id | fl       | do   |
+----+----------+------+
|  1 | 999.9999 | NULL |
|  2 | 123.4567 | NULL |
|  3 | 123.4568 | NULL |
|  4 |   0.9999 | NULL |
+----+----------+------+

  

insert into t1 (fl) values (12.345);

执行结果：

+----+----------+------+
| id | fl       | do   |
+----+----------+------+
|  1 | 999.9999 | NULL |
|  2 | 123.4567 | NULL |
|  3 | 123.4568 | NULL |
|  4 |   0.9999 | NULL |
|  5 |   0.9999 | NULL |
+----+----------+------+

 

insert into t1 (fl) values (1.35);

执行结果：

+----+----------+------+
| id | fl       | do   |
+----+----------+------+
|  1 | 999.9999 | NULL |
|  2 | 123.4567 | NULL |
|  3 | 123.4568 | NULL |
|  4 |   0.9999 | NULL |
|  5 |   0.9999 | NULL |
|  6 |   0.9999 | NULL |
+----+----------+------+

 插入的都为0.9999,因为float(4,4)在插入数据时，整数位的长度必须为0，否则插入(4,4)所能表示的最大值

insert into t1 (fl) values (0.123456);

执行结果：

+----+----------+------+
| id | fl       | do   |
+----+----------+------+
|  1 | 999.9999 | NULL |
|  2 | 123.4567 | NULL |
|  3 | 123.4568 | NULL |
|  4 |   0.9999 | NULL |
|  5 |   0.9999 | NULL |
|  6 |   0.9999 | NULL |
|  7 |   0.1235 | NULL |
+----+----------+------+

 

alter table t1 modify fl float(10,4);
insert into t1 (fl) values (23.23);

执行结果:

+----+----------+------+
| id | fl       | do   |
+----+----------+------+
|  1 | 999.9999 | NULL |
|  2 | 123.4567 | NULL |
|  3 | 123.4568 | NULL |
|  4 |   0.9999 | NULL |
|  5 |   0.9999 | NULL |
|  6 |   0.9999 | NULL |
|  7 |   0.1235 | NULL |
|  8 |  23.2300 | NULL |
+----+----------+------+

可以看到，小数位不足时，会补0，整数位不足时，不需要补0

 

alter table t1 modify fl float(30,10);
Table: t1
Create Table: CREATE TABLE `t1` (
  `id` int(11) NOT NULL AUTO_INCREMENT,
  `fl` float(30,10) DEFAULT NULL,
  `do` double DEFAULT NULL,
  PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=9 DEFAULT CHARSET=utf8

float(m,d)当m>24时，字段的类型不会变成double类型。这和float(m)是有区别的。 

表结构

Create Table: CREATE TABLE `t3` (
  `id` int(11) NOT NULL AUTO_INCREMENT,
  `dc` decimal(10,0) DEFAULT NULL,
  PRIMARY KEY (`id`)
) ENGINE=InnoDB AUTO_INCREMENT=2 DEFAULT CHARSET=utf8

 定点小数 decimal 以字符串形式保存，所以是精确存储数据

不指定精度和标度时，decimal默认0位小数位

insert into t3 (dc) values (1234.567);
select * from t3;

 执行结果：

+----+------+
| id | dc   |
+----+------+
|  1 | 1235 |
+----+------+

 

alter table t3 modify dc decimal(10,3);
insert into t3 (dc) values (1234.567);

　select * from t3;

 执行结果：

+----+----------+
| id | dc       |
+----+----------+
|  1 | 1235.000 |
|  2 | 1234.567 |
+----+----------+

 

insert into t3 (dc) values (1234.567891);
select * from t3;

 执行结果：

+----+----------+
| id | dc       |
+----+----------+
|  1 | 1235.000 |
|  2 | 1234.567 |
|  3 | 1234.568 |
+----+----------+

 保留3位小数位

表结构

Table: t3
Create Table: CREATE TABLE `t3` (
  `id` int(11) NOT NULL AUTO_INCREMENT,
  `fl` float DEFAULT NULL,
  `db` double DEFAULT NULL,
  `dc` decimal(10,0) DEFAULT NULL,
  PRIMARY KEY (`id`)
) ENGINE=InnoDB DEFAULT CHARSET=utf8

 

insert into t3 (fl,db,dc) values (12345678,12345678,12345678);
select * from t3;

 执行结果：

+----+----------+----------+----------+
| id | fl       | db       | dc       |
+----+----------+----------+----------+
|  1 | 12345700 | 12345678 | 12345678 |
+----+----------+----------+----------+

 

select * from t3 where fl = 12345700;

 执行结果：

Empty set (0.00 sec)

 

select * from t3 where fl = 12345678;

 执行结果：

+----+----------+----------+----------+
| id | fl       | db       | dc       |
+----+----------+----------+----------+
|  1 | 12345700 | 12345678 | 12345678 |
+----+----------+----------+----------+

 可以看到float类型，保存整数值时，where字句条件用insert时的值，反而能查询成功 

 

insert into t3 (fl,db,dc) values (12.34,12.34,12.34);
select * from t3;

 执行结果：

+----+----------+----------+----------+
| id | fl       | db       | dc       |
+----+----------+----------+----------+
|  1 | 12345700 | 12345678 | 12345678 |
|  2 |    12.34 |    12.34 |       12 |
+----+----------+----------+----------+

decimal默认0小数位

 

select * from t3 where fl=12.34

 执行结果：

Empty set (0.00 sec)

float保存小数值时，即使保存的数值是insert时的数值，没有发生四舍五入，但是在等值查询时，查找失败

设置float类型精度和标度时，能等值查找成功

alter table t3 modify fl float(10,4);
select * from t3;
+----+---------------+----------+----------+
| id | fl            | db       | dc       |
+----+---------------+----------+----------+
|  1 | 12345678.0000 | 12345678 | 12345678 |
|  2 |       12.3400 |    12.34 |       12 |
+----+---------------+----------+----------+

 

select * from t1 where fl = 12.34;

执行结果：

+----+---------+-------+------+
| id | fl      | db    | dc   |
+----+---------+-------+------+
|  2 | 12.3400 | 12.34 |   12 |
+----+---------+-------+------+

 

转载于:https://www.cnblogs.com/bibiafa/p/9178191.html

diancui3160
关注
定点DSP与浮点DSP的区别
08-29
定点DSP和浮点DSP是数字信号处理器（DSP）的两种主要类型，它们在设计和功能上存在显著差异，适应不同的应用场景。定点DSP以其成本效益高、功耗低和硬件实现简单等特点，在许多领域中占据主导地位，特别是在资源有限...
MySQL数据类型--浮点数类型和定点数类型
热门推荐
LinkinPark的博客
03-16 8万+
MySQL中使用浮点数类型和定点数类型来表示小数。 浮点数类型包括单精度浮点数（float型）和双精度浮点数（double型）。定点数类型就是decimal型。 OK，现在我们来看看这几种数据类型的取值范围和存数的字节数。 关于上表的解释： 1，Decimal型的取值范围和double相同。但是decimal的有效取值范围由M和D决定，而且Decimal型的字节数是M+2。
mysql数据类型定点和浮点_MySQL数据类型--浮点数类型和定点数类型
weixin_39664995的博客
02-10 424
MySQL中使用浮点数类型和定点数类型来表示小数。浮点数类型包括单精度浮点数(float型)和双精度浮点数(double型)。定点数类型就是decimal型。OK，现在我们来看看这几种数据类型的取值范围和存数的字节数。关于上表的解释：1，Decimal型的取值范围和double相同。但是decimal的有效取值范围由M和D决定，而且Decimal型的字节数是M+2。也就是说，定点数的存储空间是根据...
不全？MySQL数据类型精讲，定点日期枚举文本字符串，json二进制，空间，选择建议，完整详细可收藏
叶绿体不忘呼吸
11-28 3638
文章目录1. MySQL中的数据类型2. 整数类型3. 浮点数类型4. 定点数类型5. 位类型：BIT6. 日期与时间类型7. 文本字符串类型8. ENUM类型9. SET类型10. 二进制字符串类型11. JSON 类型12. 空间类型13. 选择建议 1. MySQL中的数据类型 常见数据类型的属性，如下： 2. 整数类型 2.1 类型介绍 整数类型一共有 5 种，包括 TINYINT、SMALLINT、MEDIUMINT、INT（INTEGER）和 BIGINT。它们的区别如下表所示： 2.
一文看懂定点数和浮点数
最新发布
weixin_46272787的博客
01-17 4173
定点数是指小数点固定的隐含在某一位置上的一类数据有符号数：以四位有符号数1111为例，其数值大小为：1x（-2^(0)）（4+2+1）= -7。
你可能不知道的MySQL中的定点数类型
chamabo4215的博客
07-16 1037
定点数类型 正因为用浮点数表示小数可能会有不精确的情况，在一些情况下我们必须保证小数是精确的，所以设计MySQL的大叔们提出一种称之为定点数的数据类型，它也是存储小数的一种方式： 其中： M表示该小数最多需要的十进制有效数字个数。 注意是有效数字个数，比方说对于小数-2.3来说有效数字个数就是2，对于小数0.9来说有效数字个数就是1。 D表示该小数的小数点后的十进制数字个数。 这个好理解...
以定点和科学计数法显示浮点类型数据
12-30
在编程领域，浮点类型数据是用于表示小数或...总的来说，理解和灵活运用`ios::scientific`和`ios::fixed`标志是控制浮点类型数据输出格式的关键。在C++编程中，这有助于提高代码的可读性和适应性，满足不同场景的需求。
定点与浮点的转换
09-10
### 定点与浮点的转换详解 #### 一、定点数的概念与表示方法 **1.1 定点数的基本定义** 定点数是指在计算机内部以固定小数点位置来表示实数的一种数据类型。在计算机硬件层面上，定点数通常采用整型数的形式存储...
定点dsp与浮点dsp的比较
08-15
定点DSP（Digital Signal Processor）和浮点DSP是两种不同类型的数据处理单元，主要应用于数字信号处理领域。定点DSP在历史上取得了显著的成功，广泛应用于各种嵌入式系统和单片机设计中，但随着技术的进步和需求的...
DSP中浮点转定点运算--浮点与定点概述
09-02
在实际应用中，定点数可以分为纯小数和纯整数两种类型。纯小数的定点数，小数点位于最高有效位之前；纯整数的定点数，小数点位于最低有效位之后。例如，0.12345和12345分别是纯小数和纯整数的定点数。 **浮点数**则...
定点与浮点
一个人要像一支队伍
07-20 3万+
定点与浮点在《计算机组成原理》有很详细的说明，但是电子专业的学生只学《单片机》，而《单片机》并没有介绍定点与浮点的内容，所以电子专业的学生缺了这点基础，导致在FPGA处理运算时遇到拦路虎。 一、定点。 定点数是非常简单的，它最早在小学的时候就已经学了，只不过那个时候并没有使用这个术语。 如上图所示，31.5米=315分米，显然根据单位的不同，小数点是可以移动的。 只要单位固定了，那
MySQL中的浮点数类型和定点数类型
木子皿--啥都不会的菜鸟
05-26 1005
文章目录1 MySQL中的浮点数类型和定点数类型 1 MySQL中的浮点数类型和定点数类型 数据表中用浮点数类型和定点数类型来表示小数。浮点数类型包括单精度浮点数（FLOAT型）和双精度浮点数（DOUBLE型）。定点数类型就是DECIMAL型。下面从这三种类型的字节数、取值范围等方面进行对比，如下表所示。 use school; #选择数据库school create table class10 (f1 float, do1 double, de1 decimal); #创建表class10 三
定点数与浮点数
qq_39377889的博客
03-02 5321
计算机组成原理基础知识，理解定点整数和定点小数以及浮点数，解释了典型的IEEE754标准。
机器数的定点表示与浮点表示
改改的博客
03-25 6259
目录 一、定点表示法 1、定点小数 2、定点整数 二、浮点表示法 1、浮点数的表示范围 2、规格化浮点数 三、浮点数阶码移码的表示 四、浮点数尾数的基数 1、尾数基数大小的选择 2、尾数基数对浮点数特性的影响 五、IEEE754标准浮点数 六、定点、浮点表示法与 定点、浮点计算机 1、定点、浮点表示法范的区别 （1）数值的表示范围额 （2）精度 （3）数的运算 （4）溢出处理 2、定点机与浮点机 （1）定点机 （2）定点机+浮点机 （3）浮点机
数值类型表示二——定点和浮点格式
在校生
09-15 673
数值类型表示二——定点和浮点格式
mysql无法为表创建外键的解决方法
L17707500994的博客
07-27 573
要创建外键的表: 目的为表`orderitem`创建两个外键`pid`和`oid`关联到表`product`和`orders` CREATE TABLE `orderitem` ( `itemid` varchar(32) NOT NULL, `quantity` int(11) DEFAULT NULL, #购买数量 `total` double DEFAULT NULL, #小计 `pid` varchar(32) DEFAULT NULL, #购买商品的id `oi
整型、浮点型、定点型、时间日期类型、字符串类型、text、enum、列属性、三大范式、表关系
weixin_44518089的博客
08-11 1741
整型 分类： 迷你整型tinyint：系统采用一个字节来保存的整型，一个字节8位，范围0~255 小整型smallint：采用两个字节保存整型，范围0~65535 中整型mediumint：采用三个字节保存 整型int：采用四个字节保存 大整型bigint：采用八个字节保存 显示长度 显示长度：数据(整型)在现实数据的时候到底可以实现多少位 tinyint(3)：表示最长可以实现3位,unsigned说明只是整数，永远不会超过三位长度 tinyint(4):表示最长四位，范围-128~127 显示长度只是代
浅论定点DSP与浮点DSP的区别
不积跬步，无以至千里！
04-02 1万+
最近在研究的一个项目中必须要用到DSP处理器。可是在选型时遇到了一个问题，该选择定点型的DSP，还是选浮点型的DSP？这两者有什么区别呢？于是专门查找并总结了一些资料，如下： 一般来说，定点DSP处理器具有速度快，功耗低，价格便宜的特点；而浮点DSP处理器则计算精确，动态范围大，速度快，易于编程，功耗大，价格高。 1、宏观上的区别 从宏观上讲，浮点dsp比定点dsp的动态范围大得多。定点运算...
浮点型数据类型
Tendering的博客
01-16 7013
浮点型数据类型 浮点型数据类型主要分为三种： float：单精度浮点型 double：双精度浮点型 decimal：数字型 单精度和双精度 精度是指计算机表达小数近似值的一种方式； 单精度32位二进制，4个字节； 双精度64位二进制，8个字节。 类型 精度(位数) float 7 double 15 decimal 28 float：单精度浮点型，占字节数为4，用32位二进制描述，有符号是7个有效位，无符号是8个有效位。 double：双精度浮点型，占字节数为8，用64位二进制描
浮点类型转定点为什么要乘32768
05-28
浮点类型转定点是为了将浮点数转换为固定点数，方便在一些嵌入式系统中进行计算，同时减少存储空间和计算时间。而乘以32768是因为32768是2的15次方，而在定点数中通常会将小数部分放在整数部分的高位，因此乘以2的n...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值