一、为什么需要数据库设计
我们在设计数据表的时候,要考虑很多问题。比如:
- 用户都需要什么数据?需要在数据表中保存哪些数据?
- 如何保证数据表中数据的正确性,当插入、删除、更新的时候该进行怎样的约束检查?
- 如何降低数据表的数据冗余度,保证数据表不会因为用户量的增长而迅速扩张。
- 如何让负责数据库维护的人员更方便地使用数据库?
- 使用数据库的应用场景也各不相同,设计出来的数据表可能千差万别。
现实情况中,面临的场景:
当数据库运行了一段时间之后,才发现数据表设计的有问题。重新调整数据表的结构,就需要做数据迁移,还有可能影响程序的业务逻辑,以及网站正常的访问。
如果是糟糕的数据库设计可能会造成以下问题:
- 数据冗余,信息重复,存储空间浪费。
- 数据更新、插入、删除的异常。
- 无法正确表示信息。
- 丢失有效信息。
- 程序性能差。
良好的数据库设计则有以下优点:
- 节省数据的存储空间。
- 能够保证数据的完整性。
- 方便进行数据库应用系统的开发。
总之,开始设计数据库的时候,我们就需要重视数据库表的设计。为了建立冗余较小、结构合理的数据库,设计数据库时必须遵循一定的规则。
二、范式
2.1 范式简介
在关系型数据库中,关于数据表设计的基本原则、规则就称为范式。 可以理解为,一张数据表的设计结构需要满足的某种设计标准的级别。要想设计一个结构合理的关系型数据库,必须满足一定的范式。
范式的英文名称是Normal Form,简称NF。它是英国人E.F.Codd在上个世纪70年代提出关系数据库模型后总结出来的。范式是关系数据库理论的基础,也是我们在设计数据库结构过程中所要遵循的规则和指导方法。
2.2 范式都包括哪些
目前关系型数据库有六种常见范式,按照范式级别,从低到高分别是:第一范式(1NF)、第二范式(2NF)、第三范式(3NF)、巴斯-科德范式(BCNF)、第四范式(4NF)和第五范式(5NF,又称完美范式)。
数据库的范式设计越高阶,冗余度就越低,同时高阶的范式一定符合低阶范式的要求,满足最低要求的范式是第一范式(1NF)。在第一范式的基础上进一步满足更多规范要求的称为第二范式(2NF),其余范式以此类推。
一般来说,在关系型数据库设计中,最高也就遵循到BCNF,普遍还是3NF。但也不绝对,有时候为了提高某些查询性能,我们还需要破坏范式规则,也就是反规范化。
2.3 键和相关属性的概念
范式的定义会使用到主键和候选键,数据库中的键(Key)由一个或者多个属性组成。数据表中常用的几种键和属性的定义:
- 超键: 能唯一标识元组的属性集叫做超键。
- 候选键: 如果超键不包括多余的属性,那么这个超键就是候选键。
- 主键: 用户可以从候选键中选择一个作为主键。
- 外键: 如果数据表R1中的某属性集不是R1的主键,而是另一个数据表R2的主键,那么这个属性集就是数据表R1的外键。
- 主属性: 包含在任一候选键中的属性称为主属性。
- 非主属性: 与主属性相对,指的是不包含在任何一个候选键中的属性。
通常,我们也将候选键称之为“码”,把主键称为“主码”。因为键可能是由多个属性组成的,针对单个属性,我们还可以用主属性和非主属性来进行区分。
2.4 第一范式(1st NF)
第一范式主要是确保数据表中每个字段的值必须具有原子性,也就是说数据表中每个字段的值为不可再次拆分的最小数据单元。
我们在设计某个字段的时候,对于字段X来说,不能把字段X拆分成字段X-1和字段X-2。事实上,任何的DBMS都会满足第一范式的要求,不会将字段进行拆分。
2.5 第二范式(2nd NF)
第二范式要求,在满足第一范式的基础上,还要==满足数据表里的每一条数据记录,都是可唯一标识的。而且所有非主键字段,都必须完全依赖主键,不能只依赖主键的一部分。==如果知道主键的所有属性的值,就可以检索到任意元组(行)的任何属性的任意值。(要求中的主键,其实可以拓展替换为候选键)。
对于非主属性来说,并非完全依赖候选键,这样会产生怎样的问题呢?
- 数据冗余: 如果一个球员可以参加m场比赛,那么球员的姓名和年龄就重复了m-1次。一个比赛也可能会有n个球员参加,比赛的时间和地点就重复了n-1次。
- 插入异常: 如果我们想要添加一场新的比赛,但是这时还没有确定要参加的球员有谁,那么就没法插入。
- 删除异常: 如果我要删除某个球员编号,如果没有单独保存比赛表的话,就会同时把比赛信息删除掉。
- 更新异常: 如果我们调整了某个比赛的时间,那么数据表中所有这个比赛的时间都需要进行调整,否则就会出现一场比赛时间不同的情况。
为了避免出现上述的情况,将球员比赛表设计为下面三张表:
1NF告诉我们字段属性需要是原子性的,而2NF告诉我们一张表就是一个独立的对象,一张表只表达一个意思。
小结:第二范式(2NF)要求实体的属性完全依赖主关键字。如果存在不完全依赖,那么这个属性和主关键字的这一部分应该分离出来形成一个新的实体,新实体与元实体之间是一对多的关系。
2.6 第三范式(3rd NF)
第三范式是在第二范式的基础上,确保数据表中的每一个非主键字段都和主键字段直接相关,也就是说,要求数据表中的所有非主键字段不能依赖于其他非主键字段。 (即:不能存在非主属性A 依赖于非主属性B,非主属性B依赖于主键C的情况,即存在 “A->B->C”的决定关系)通俗地讲,该规则的意思是所有非主键属性之间不能有依赖关系,必须互相独立。
这里的主键可以拓展为候选键。
2.7 小结
关于数据表的设计,有三个范式需遵循:
-
第一范式(1NF),确保每列保持原子性。
数据库的每一列都是不可分割的原子数据项,不可再分的最小数据单元,而不能是集合、数组、记录等非原子数据项。 -
第二范式(2NF),确保每列都和主键完全依赖。
尤其在复合主键的情况下,非主键部分不应该依赖于部分主键。 -
第三范式(3NF)确保每列都和主键列直接相关,而不是间接相关。
范式的优点: 数据的标准化有助于消除数据库中的数据冗余,第三范式(3NF)通过被认为在性能、扩展性和数据完整性方面达到了最好的平衡。
范式的缺点: 范式的使用,可能降低查询的效率。因为范式等级越高,设计出来的数据表就越多、越精细,数据的冗余度就越低,进行数据查询的时候就可能需要关联多张表,这不但代价昂贵,也可能使一些索引策略无效。
范式只是提出了设计的标准,实际上设计数据库表时,未必一定要符合这些标准。开发中,我们会出现为了性能和读取效率违反范式化的原则,通过增加少量的冗余或重复的数据来提供数据的读性能,减少关联查询,join表的次数,实现空间换取时间的目的。因此在实际的设计过程中要理论结合实际,灵活运用。
范式本身没有优劣之分,只有适合场景不同。没有完美的设计,只有合适的设计,我们在数据表的设计中,还需要根据需求将范式和反范式混合使用。
三、反范式化
3.1 概述
有的时候不能简单按照规范要求设计数据库,因为有的数据看似冗余,其实对业务来说十分重要。这个时候,我们就要遵循业务优先的原则,首先满足业务需求,再尽量减少冗余。
如果数据库中的数据量比较大,系统的UV和PV访问频次比较高,则完全按照数据库的三大范式设计数据表,读数据时会产生大量的关联查询,在一定程度上会影响数据库的读性能。如果我们想对读取速率进行优化,反范式优化也是一种优化思路。此时,可以通过在数据库表中增加====冗余字段来提高数据库的读性能。
规范化 VS 性能
- 为满足某种商业目标,数据库性能比规范化数据库更重要。
- 在数据规范化的同时,要综合考虑数据库的性能。
- 通过在规定的表中添加额外的字段,以大量减少需要从中搜索信息所需的时间。
- 通过在给定的表中插入计算列,以方便查询。
3.2 反范式的新问题
反范式可以通过空间换时间,提升查询的效率,但是反范式也会带来一些新问题
- 存储空间变大了。
- 一个表中字段做了修改,另一个表中冗余的字段也需要做同步修改,否则数据不一致。
- 若采用存储过程来支持数据的更新、删除等额外操作,如果更新频繁,会非常消耗系统资源。
- 在数据量小的情况下,反范式不能体现性能的优势,可能还会让数据库的设计更加复杂。
3.3 反范式的适用场景
当冗余信息有价值或者能大幅度提高查询效率的时候,我们才会采取反范式化的优化。
3.3.1 增加冗余字段的建议
增加冗余字段一定要符合如下两个条件。只有满足这两个条件,才可以考虑增加冗余字段
- 这个冗余字段不需要经常进行修改
- 这个冗余字段查询的时候不可或缺
3.3.2 历史快照、历史数据的需要
在现实生活中,我们经常需要一些冗余信息,比如订单中的收货人信息、包括姓名、电话和地址等。每次发生的订单收货信息都属于历史快照,需要进行保存,但用户可以随时修改自己的信息,这时保存这些容易信息是非常有必要的。
反范式优化也常用在数据仓库的设计中,因为数据仓库通常存储历史数据,对增删改查的实时性不强,对历史数据的分析需求强。这时适当允许数据的冗余度,更方便进行数据分析。
简单总结下数据仓库和数据库在使用上的区别:
- 数据库设计的目的在于捕获数据,而数据仓库设计的目的在于分析数据。
- 数据库读数据的增删改实时性要求强,需要存储用户的在线数据,而数据仓库存储的一般是历史数据。
- 数据库设计需要尽量避免冗余,但为了提高查询效率也允许一定的冗余度,而数据仓库在设计上更偏向采用反范式设计。
2.4 BCNF(巴斯范式)
在3NF的基础上进行了改进,提出了巴斯范式(BCNF),也叫做巴斯-科德范式(Boyce-Code Normal Form)。BCNF被认为没有新的设计规范加入,只是对第三范式中设计规范要求更强,使得数据库冗余度更小。所以,称为是修正的第三范式或扩充的第三范式,BCNF不被称为第四范式。
若一个关系达到了第三范式,并且它只有一个候选键,或者它的每个候选键都是单属性,则该关系自然达到BC范式。
一般来说,一个数据库设计符合3NF或BCNF就可以了。
2.5 第四范式
多值依赖的概念:
- 多值依赖即属性之间的一对多关系,记为k->->A
- 函数依赖事实上是单值依赖,所以不能表达属性值之间的一对多关系。
- 平凡的多值依赖:全集U=K+A,一个K可以对应于多个A,即K->->A,此时整个表就是一组一对多关系
- 非平凡的多值依赖: 全集U=K+A+B,一个K可以对应于多个A,也可以对应于多个B,A与B互相独立,即 k->->A,k->->B。整个表有多组一对多关系,且有:“一”部分是相同的属性集合,“多”部分是互相独立的属性集合。
第四范式即在满足巴斯-科德范式的基础上,消除非平凡且非函数依赖的多值依赖(即把同一表内的多对多关系删除)。
2.6 第五范式、域键范式
除了第四范式外,我们还有更高级的第五范式(又称完美范式)和域键范式(DKNF)。
在满足第四范式(4NF)的基础上,消除不是由候选键锁蕴含的连接依赖。==如果关系模型R中的每一个连接依赖均由R的候选键所隐含,==则称此关系模式符合第五范式。
函数依赖是多值依赖的一种特殊的情况,而多值依赖实际上是连接依赖的一种特殊情况。但连接依赖不像函数依赖和多值依赖可以由语义直接导出,而是在关系连接运算时才反映出来。存在连接依赖的关系模式仍可能遇到数据冗余及插入、修改、删除异常等问题。
第五范式处理的是无损连接问题,这个范式基本没有实际意义。因为无损连接很少出现,而且难以察觉。而域键范式试图定义一个终极范式,该范式考虑所有的依赖和约束类型,但是实用价值也是最小的,只存在理论研究中。
2.7 反范式化:业务优先的原则
所谓的业务优先原则,就是指一切以业务需求为主,技术服务于业务。完全按照理论的设计不一定就是最优,还要根据实际情况来决定。
四、ER模型
数据库设计是牵一发而动全身的。那么有什么办法可以提前看到数据库的全貌呢?比如需要哪些数据表、数据表中应该有哪些字段。数据表与数据表之间有什么关系,通过什么字段进行连接,等等。这样才能进行整体的梳理和设计。
ER模型就是一个这样的工具,ER模型也叫作实体关系模型,是用来描述现实生活中客观存在的事物、事物的属性、以及事物之间关系的一种数据模型。在开发基于数据库的信息系统的设计阶段,通常使用ER模型来描述信息需求和信息特性,帮助我们理清业务逻辑,从而设计出优秀的数据库。
4.1 ER模型包括哪些要素?
ER模型中有三个要素,分别是实体、属性和关系。
- 实体:可以看做是数据对象,往往对应于现实生活中的真实存在的个体。在ER模型中,用矩形来表示。实体分为两类,分别是强实体和弱实体。强实体是指不依赖于其他实体的实体;弱实体是指对另一个实体有很强的依赖关系的实体。
- 属性: 则是指实体的特性。比如超市的地址、联系电话、员工数等。在ER模型中用椭圆形来表示。
- 关系: 则是指实体之间的联系。比如超市把商品卖给顾客,就是一种超市与顾客之间的联系。在ER模型中用菱形来表示。
**注意:**实体和属性不容易区分,这里提供一个原则。从系统整体的角度出发看可以独立存在的是实体,不可再分的是属性。也就是说,属性不能包含其他属性。
4.2 关系的类型
在ER模型的3个要素中,关系又可以分为3中类型,分别是一对一、一对多、多对多。
- ==一对一:==指实体之间的关系是一一对应的。比如个人与身份证信息之间的关系就是一对一的关系。一个人只能有一个身份证信息,一个身份证信息也只属于一个人。
- 一对多: 指一边的实体通过关系,可以对应多个另外一边的实体。相反,另外一边的实体通过这个关系,则只能对应唯一的一边的实体。比如说,我们新建一个班级表,而每个班级都有多个学生,每个学生则对应一个班级。班级和学生就是一对多的关系。
- 多对多: 指关系两边的实体都可以通过关系对应多个对方的实体。比如在进货模型中,供货商与超市之间的关系就是多对多的关系。一个供货商可以给多个超市供货,一个超市也可以从多个供货商哪里采购商品。
4.3 建模分析
ER模型看起来比较麻烦,但是对我们把控项目整体非常重要。如果只是开发一个小应用,或者简单设计几个表就够用了。一旦要设计又一定规模的应用,在项目的初始阶段,建立完整的ER模型就非常关键了。开发应用项目的实质其实就是建模。
4.4 ER模型图转换成数据表
通过ER模型,可以理清业务逻辑。接下来进行非常重要的一步:把ER模型转换成具体的数据表,转换规则如下:
- 一个实体通常转换成一个数据表;
- 一个多对多的关系,通常也转换成一个数据表。
- 一个1对1,或者1对多的关系,往往通过表的外键来表达,而不是设计一个新的数据表。
- 属性转换成表的字段。
针对外键约束于项目中的实际应用:
外键约束主要是在数据库层面上保证数据的一致性,但是因为插入和更新数据需要检查外键,理论上性能会有所下降,对性能是负面影响。
实际的项目中,不建议使用外键,一方面是降低开发的复杂度(有外键的话主从表类的操作必须先操作主表),另外是有外键在处理数据的时候非常麻烦。在电商平台,由于并发业务量比较大,所以一般不设置外键,一面影响数据库的性能。
在应用层面做数据的一致性检查,本来就是一个正常的功能需求。如学生选课的场景,课程肯定不是输入的,而是通过下拉或查找等方式从系统中进行拉取,就能够保证是合法的课程ID,因此就不需要靠数据库的外键来检查了。
五、数据库的设计原则
数据库设计的一般原则:“三少一多”
- 数据表的个数越少越好: RDBMS的核心在于对实体和联系的定义,也就是E-R图(Entity Relationship Diagram),数据表越少,证明实体和联系设计得越简洁,既方便理解又方便操作。
- 数据表中的字段越少越好: 字段个数越多,数据冗余的可能性越大。设置字段个数少的前提是各个字段相互独立,而不是某个字段的取值可以由其他字段计算出来。当然字段个数少是相对的,我们通常会在数据冗余和检索效率中进行平衡。
- 数据表中联合主键的字段个数越少越好: 设置主键是为了确定唯一性,当一个字段无法确定唯一性的时候,就需要采用联合主键的方式(也就是用多个字段来定义一个主键)。联合主键中的字段越多,占用的索引空间越大,不仅会加大理解难度,还会增加运行时间和索引空间,因此联合主键的字段个数越少越好。
- 使用主键和外键越多越好: 数据库的设计实际上就是定义各种表,以及各种字段之间的关系。这些关系越多,证明这些实体之间的冗余度越低,利用度越高。这样做的好处在于不仅保证了数据表之间的独立性,还能提升相互之间的关联使用率。
“三少一多”原则的核心就是简单可复用。简单指的是用更少的表、更少的字段、更少的联合主键字段来完成数据表的设计。可复用则是通过主键、外键的使用来增强数据表之间的复用率。因为一个主键可以理解是一张表的代表。键设计得越多,证明它们之间的利用率越高。
注意:这个原则并不是绝对的,有时候我们需要牺牲数据的冗余度来换取数据处理的效率。
六、数据库对象编写建议
6.1 关于库
- 库的名称必须控制在32个字符以内,只能使用英文字母、数字和下划线,建议以英文字母开头。
- 库名中英文一律小写,不同单词采用下划线分割。须见名知意。
- 库的名称格式:业务系统名称_子系统名。
- 库名禁止使用关键字(如:type、order等)。
- 创建数据库时必须显示指定字符集,并且字符集只能是utf8或者utf8mb4
#举例
CREATE DATABASE crm_system DEFAULT CHARACTER SET 'utf8';
- 对于程序连接数据库账号,遵循权限最小原则,使用数据库账号只能在一个DB下使用,不准跨库。程序使用的账号原则上不准有drop权限。
- 临时库以tmp_为前缀,并以日期为后缀;备份库以bak_为前缀,并以日期为后缀。
6.2 关于表、列
-
表和列的名称必须控制在32个字符以内,只能使用英文字母、数字和下划线,建议以英文字母开头。
-
表名、列名一律小写,不同单词采用下划线分割。须见名知意。
-
表名要求与模块名强相关,同一模块的表名尽量使用统一前缀。
-
创建表时必须显示指定字符集,并且字符集只能是utf8或者utf8mb4。
-
表名禁止使用关键字(如:type、order等)。
-
创建表时必须显式指定表存储引擎类型。如无特殊需求,一律为InnoDB。
-
建表必须有comment
-
字段命名应尽可能使用表达实际含义的英文单词或缩写。
-
布尔值类型的字段命名为is_描述。
-
禁止在数据库中存储图片、文件等大的二进制数据。通常文件很大,短时间内造成数据量快速增长,数据库进行数据库读取时,通常会进行大量的随机IO操作,文件很大时,IO操作很耗时。通常存储于文件服务器、数据库只存储文件地址信息。
-
建表时表必须有主键。
- 强制要求主键为id,类型为int或bigint,且为auto_increment建议使用unsigned无符号型。
- 标识表里每一行主题的字段不要设为主键,建议设为其他字段如user_id,order_id等,并建立unique key索引。因为如果设为主键且主键值为随机插入,则会导致innodb内部页分裂和大量随机I/O,性能下降。
-
核心表(如用户表)必须有行数据的创建时间字段(create_time)和最后更新时间字段(update_time),便于查问题。
-
表中所有的字段尽量都是NOT NULL属性,业务可以根据需要定义DEFAULT值。因为使用NULL值会存在每一行都会占用额外存储空间,数据迁移容易出错,聚合函数计算结果偏差等问题。
-
所有存储相同数据的列名和列类型必须一致(一般作为关联列,如果查询时关联列类型不一致会自动进行数据类型的隐形转换,会造成列上的索引失效,导致查询效率降低)。
-
中间表(或临时表)用于保留中间结果集,名称以tmp_开头。 备份表用于备份或抓取源表快照,名称以bak_开头。中间表和备份表定期清理。
-
创建表时,可以使用可视化工具。这样可以确保表、字段相关的约定都能设置上。实际上,我们通常很少自己写DDL语句,可以使用一些可视化工具来创建和操作数据库和数据表。可视化数据除了方便,还能直接帮我们将数据库的结构定义转换成SQL语言,方便数据库和数据表的导入和导出。
6.3 关于索引
- InnoDB表必须主键为id int/bigint auto_increment,且主键值禁止被更新。
- InnoDB和MyISAM存储引擎表,索引类型必须为BTREE。
- 主键的名称以pk_开头,唯一键以uni_或uk_开头,普通索引以idx_开头,一律使用小写格式,以字段的名称或者缩写作为后缀。
- 多单词组成的columnname,取前几个单词首字母,加末单词组成column_name。如:sample表 member_id上的索引:idx_sapple_mid;
- 单个表上的索引个数不能超过6个。
- 在建立索引时,多考虑建立联合索引,并把区分度最高的字段放在最前面。
- 在多表JOIN的SQL里,保证被驱动表的连接列上有索引,这样JOIN执行效率最高。
- 建表或者增加索引时,保证表里互相不存在冗余索引。
6.4 SQL编写
- 程序端SELECT语句必须指定班集体字段名称,禁止写成*。
- 程序端INSERT语句指定具体字段名称,不要写成INSERT INTO t1 VALUES(…);
- 除静态表或小表(100行以内),DML语句必须有WHERE条件,且使用索引查找。
- INSERT INTO…VALUES(xx),(xx),(xx)…这里的XX的值不要超过5000个。值过多虽然上线很快,但是会引起主从同步延迟。
- SELECT 语句不要使用UNION,推荐使用UNION ALL,并且UNION子句个数限制在5个以内。
- 线上环境,多表JOIN不要超过5个表。
- 减少使用ORDER BY,和业务沟通能不排序就不排序,或将排序放到程序端去做。ORDER BY、GROUP BY、DISTINCT这些语句较为耗费CPU,数据库的CPU资源是极其宝贵的。
- 包含了ORDER BY、GROUP BY、DISTINCT这些查询的语句,WHERE条件过滤出来的结果集请保持在1000行以内,否则SQL会很慢。
- 对单表的多次ALTER操作必须合并为一次。对于超过100W行的大表进行alter table,必须经过DBA审核,并在业务低峰期执行,多个ALTER需整合在一起。因为ALTER TABLE会产生表锁,期间阻塞对于该表的所有写入,对于业务可能产生极大影响。
- 批量操作数据时,需要控制事务处理间隔时间,进行必要的sleep。
- 事务里包含SQL不超过5个。因为过长的事务会导致锁数据较就,MySQL内部缓存、连接消耗过多等问题。
- 事务里更新语句尽量基于主键或者UNIQUE KEY,如 UPDATE … WHERE id = xx; 否则会产生间隙锁,内部扩大锁定范围,导致系统性能下降,产生死锁。
七、PowerDesigner的使用
PowerDesigner是一款开发人员常用的数据库建模工具,用户利用该软件可以方便地制作数据流程图、概念数据模型、物理数据模型, 它几乎包括了数据库模型设计的全过程,是Sybase公司为企业建模和设计提供的一套完整的集成化企业级建模解决方案。