24. 文件系统管理原理,MBR,索引文件系统,文件类型

---

文件系统原理

文件系统类型

类型	说明
Ext2	是 Ext 文件系统的升级版本，Red Hat Linux以前的系统默认都是 Ext2 文件系统。于 1993 年发布，支持最大 16TB 的分区和最大 2TB 的文件
Ext3	是 Ext2 文件系统的升级版本，最大的区别就是带日志功能，以便在系统突然停止时提高文件系统的可靠性。支持最大 16TB 的分区和最大 2TB 的文件
Ext4	是 Ext3 文件系统的升级版。Ext4 在性能、伸缩性和可靠性方面进行了大量改进。Ext4 的变化可以说是翻天覆地的，比如向下兼容 Ext3、最大 1EB 文件系统和 16TB 文件、无限数量子目录、Extents 连续数据块 概念、多块分配、延迟分配、持久预分配、快速 FSCK、日志校验、无日志模式、在线碎片整理、inode 增强、默认启用 barrier 等。它是 CentOS 6 的默认文件系统
xfs	CentOS 7 版本默认使用的就是此文件系统，重点
swap	swap 是 Linux 中用于交换分区（类似于 Windows 中的虚拟内存)，当内存不够用时，使用交换分区暂时替代内存。一般大小为内存的 2 倍，但是不要超过 2GB。它是 Linux 的必需分区
NFS	NFS 是网络文件系统（Network File System）的缩写，是用来实现不同主机之间文件共享的一种网络服务，本地主机可以通过挂载的方式使用远程共享的资源
iso9660	光盘的标准文件系统。Linux 要想使用光盘，需要支持 iso9660 文件系统
vfat	Windows 的 fat32 文件系统，在 Linux 中识别为 vfat。支持最大 32GB 的分区和最大 4GB 的文件
NTFS	Windows 下的 NTFS 文件系统，Linux 默认是不能识别 NTFS 文件系统的，如果需要识别，则需要重新编译内核才能支持。它比 fat32 文件系统更加安全，速度更快，支持最大 2TB 的分区和最大 64GB 的文件
ufs	Sun 公司的操作系统 Solaris 和 SunOS 所采用的文件系统
proc	Linux 中基于内存的虚拟文件系统，用来管理内存存储目录 /proc
sysfs	和 proc —样，也是基于内存的虚拟文件系统，用来管理内存存储目录 /sysfs
tmpfs	基于内存的虚拟文件系统，可以使用 swap 或者实际的内存生成

xfs特性

1. 数据完全性
采用XFS文件系统，当意想不到的宕机发生后，首先，由于文件系统开启了日志功能，所以你磁盘上的文件不再会意外宕机而遭到破坏了。不论目前文件系统上存储的文件与数据有多少，文件系统都可以根据所记录的日志在很短的时间内迅速恢复磁盘文件内容。

2. 传输特性
XFS文件系统采用优化算法，日志记录对整体文件操作影响非常小。XFS查询与分配存储空间非常快。xfs文件系统能连续提供快速的反应时间。笔者曾经对XFS、JFS、Ext3、ReiserFS文件系统进行过测试，XFS文件文件系统的性能表现相当出众。

3. 可扩展性
XFS 是一个全64-bit的文件系统，它可以支持上百万T字节的存储空间。对特大文件及小尺寸文件的支持都表现出众，支持特大数量的目录。最大可支持的文件大小为263 = 9 x 1018 = 9 exabytes，最大文件系统尺寸为18 exabytes。
XFS使用高的表结构(B+树)，保证了文件系统可以快速搜索与快速空间分配。XFS能够持续提供高速操作，文件系统的性能不受目录中目录及文件数量的限制。

4. 传输带宽
XFS 能以接近裸设备I/O的性能存储数据。在单个文件系统的测试中，其吞吐量最高可达7GB每秒，对单个文件的读写操作，其吞吐量可达4GB每秒。

文件系统运行原理，如何识别(MBR)

linux系统初始化时，会根据 MBR 来识别硬盘设备。

MBR位于物理硬盘的第一个扇区（512字节），该扇区为主引导扇区，包含系统引导程序的部分数据，还包含整个硬盘的分区表记录。当主引导扇区发生故障时，将无法进入引导菜单，无法找到正确的分区位置,无法加载系统。

Boot Loader 是在操作系统内核运行之前运行的一段小程序。通过这段小程序，我们可以初始化硬件设备、建立内存空间的映射图，从而将系统的软硬件环境带到一个合适的状态，以便为最终调用操作系统内核准备好正确的环境。

boot loader 程序之后的 64 个字节的空间，就是存储的分区表（Partition table）相关信息。如图

在分区表（Partition table）中，主要存储的值息包括分区号（Partition id）、分区的起始磁柱和分区的磁柱数量。可以根据分区表中以上 3 种信息来识别硬盘设备。

常见的分区号如下：

0x5（或 0xf）：可扩展分区（Extended partition）。
0x82：Linux 交换区（Swap partition）。
0x83：普通 Linux 分区（Linux partition）。
0x8e：Linux 逻辑卷管理分区（Linux LVM partition）。
0xfd：Linux 的 RAID 分区（Linux RAID auto partition）。

由于 MBR 留给分区表的磁盘空间只有 64 个字节，而每个分区表的大小为 16 个字节，所以在一个硬盘上最多可以划分出 4 个主分区。如果想要在一个硬盘上划分出 4 个以上的分区时，可以通过在硬盘上先划分出一个可扩展分区的方法来增加额外的分区。
不过，在 Linux 的 Kernel 中所支持的分区数量有如下限制：
一个 IDE 的硬盘最多可以使用 63 个分区；
一个 SCSI 的硬盘最多可以使用 15 个分区。

索引文件系统

文件系统会将文件的实际内容和属性分开存放：
文件的属性保存在 inode 中中，每个 inode 都有自己的编号。每个文件各占用一个 inode。inode 中还记录着文件数据所在 block 块的编号；
文件的实际内容保存在 block 中（数据块）。每个 block 都有属于自己的编号。当文件太大时，会占用多个 block 块。
另外，还有一个 super block（超级块）用于记录整个文件系统的整体信息，包括 inode 和 block 的总量、已经使用量和剩余量，以及文件系统的格式和相关信息等。
只要能找到文件 inode 所在的位置，自然就能知道这个文件存放数据的 block 号，从而找到文件的实际数据。

文件系统先格式化出 inode 和 block 块，假设某文件的权限和属性信息存放到 inode 4 号位置，这个 inode 记录了实际存储文件数据的 block 号有 4 个，分别为 2、7、13、15，由此，操作系统就能快速地找到文件数据的存储位置。
这种管理文件的系统称为索引式文件系统，Linux 文件系统属于索引式文件系统。

inode 节点并不存储文件的文件名，因为文件名是文件所在目录的数据，所以会保存在上一级目录的 block 块中。前面章节在讲权限命令的时候说过，要对文件的上一级目录拥有 w 权限，才能删除目录中的文件，就是因为文件名是保存在目录的 block 中的。

[root@node1 ~]# stat 1
File: ‘1’
Size: 27 Blocks: 8 IO Block: 4096 regular file
Device: fd00h/64768d Inode: 67174765 Links: 1
Access: (0644/-rw-r–r–) Uid: ( 0/ root) Gid: ( 0/ root)
Access: 2020-06-29 05:05:43.452863510 +0800
Modify: 2020-06-29 05:04:50.334865922 +0800
Change: 2020-06-29 05:04:50.336865922 +0800
Birth: -

---

总结

友情链接

MySQL性能优化_原理_实战

1、MySQL在金融互联网行业的企业级安装部署

目录	章节
版本说明	版本说明
安装MySQL规范	1 安装方式 2 安装用户 3 目录规范
MySQL 5.7 安装部署	1 操作系统配置 2 创建用户 3 创建目录 4 安装 5 配置文件 6 安装依赖包 7 配置环境变量 8 初始化数据库 9 重置密码
MySQL8 安装	MySQL8 安装
源码安装	1 安装依赖包 2 生成源码包 3 创建用户 4 编译安装 5 配置数据库 6 连接mysql
多实例部署及注意事项	1 多实例概念 2 多实例安装 3 mysqld_multi（多实例第二种安装方式）

2、mysql启动关闭原理和实战_及常见错误排查

目录	章节
生产中MySQL启动方式	1、 启动原理 2、参数文件默认位置及优先级 3、 以server方式启动 4、 mysqld_safe方式 5、 mysqld 方式 6、 systemctl 方式
关库	1、相关参数innodb_fast_shutdown 2、相关参数innodb_force_recovery 3、关闭mysql多种方式
常见MySQL启动失败案例	1.、目录权限 2、参数问题 3、配置文件 4、端口占用 5、误删二进制文件 6、undo表空间异常 7、binlog缓冲异常
MySQL启动失败排查方法	MySQL启动失败排查方法
连接MySQL数据库的方式	连接MySQL数据库的方式
MySQL数据库用户安全策略	1、初始化数据库 2、修改密码 3、删除无用的用户 4、mysql_secure_installation
找回丢失的用户密码	找回丢失的用户密码

3、MySQL字符集和校对规则

目录	章节
MySQL字符集和校验规则	MySQL字符集和校验规则
查看字符集方法	1、查看mysql支持的字符集 2、查看字符集的校对规则 3、查看当前数据库的字符集 4、查看当前数据库的校对规则
MySQL字符集设置	1、字符集设置层级关系 2、设置MySQL服务器级别字符集 3、设置创建对象的字符集
字符集案例	1、常用字符集每个汉字占用字节多少 2、大小案例
插入中文乱码解决	插入中文乱码解决
数据库常见字符集及如何选择字符集	数据库常见字符集及如何选择字符集
生产中如何彻底避免出现乱码	生产中如何彻底避免出现乱码

4、史上最详细的Mysql用户权原理和实战_生产案例

目录	章节
访问控制	1、连接验证（阶段一) 2、允许的连接 3、连接优先级 4、请求验证（阶段二）
用户管理	1、新增用户 2、修改用户 3、删除用户 4、查看用户
密码管理	1、密码修改 2、密码过期设置 3、set password 4、密码过期策略 5、密码插件
MySQL用户权限管理	1、权限粒度 2、显示账户权限 3、显示账户非权限属性 4、库级权限 5、表级权限 6、列级权限 7、权限回收
资源限制	1、用户创建指定配额 2、修改配额
MySQL用户权限案例	1、断掉已清理的用户 2、忘记密码 3、如何禁止一个ip段的某个用户登录 4、创建开发账号 5、创建复制账号 6、创建管理员账号

5、InnoDB引擎原理和实战_通俗易懂

目录	章节
缓冲池	1、默认引擎 2、设置缓冲池大小 3、优化缓冲池 4、管理缓冲池 5、数据页类型
线程	1、IO线程 2、主线程
index page	index page
insert buffer page	insert buffer page
重做日志	重做日志
回滚日志	回滚日志
checkpoint，刷写脏页check point	checkpoint
关键特性	1、插入缓冲 2、数据写入可靠性提升技术-doublewrite 3、自适应哈希索引-AHI
innodb预读预写技术	预读写

6、MySQL文件详解_物理结构_逻辑结构_原理和案例

目录	章节
参数和配置文件	1、文件位置 2、查找参数 3、参数类型 4、参数修改 5、示例一 6、示例二 7、注意事项
错误日志文件	错误日志
通用日志	通用日志
慢查询日志	慢日志
binlog	1、记录什么 2、用途 3、开启和参数配置 4、日志查看 5、日志刷新 6、删除日志 7、日志分析（mysqlbinlog） 8、利用二进制日志文件恢复误删的表
InnoDB存储引擎表空间文件	表空间文件
主从同步相关文件	主从同步文件
套接字文件	套接字文件
pid 文件	pid 文件
redo log	1、redo初识 2、日志组 3、与oracle redo的区别 4、相关参数 5、和binlog的区别 6、redo 缓冲区(innodb_flush_log_at_trx_commit)
InnoDB存储引擎逻辑结构	1、表空间 2、段 3、区 4、页
表碎片清理	1、判断是否有碎片 2、整理碎片
表空间文件迁移	1、需求 2、操作

7、SQL编程开发与优化事项

目录	章节
常用语句	1、导入数据 2、库操作 3、表操作 4、数据操作 5、use性能影响 6、delete、truncate、drop的区别 7、SQL语句分类
数据类型与性能	1、整型 2、浮点型 3、字符串类型 4、日期类型
MySQL约束	1、unsigned/signed 2、not null 3、count(*) 为什么慢 4、default 5、unique 6、 auto_increment 7、primary key
SQL编程高级	1、查询Syntax 2、查询列 3、where子句 4、group by … having子句 5、order by子句 6、limit子句(分页) 7、聚合函数 8、合并查询 9、多表查询 10、子查询
表的元数据库管理	1、统计应用库哪些表没有使用innodb存储引擎 2、如何查看表中是否有大对象 3、统计数据库大小 4、统计表的大小

8、MySQL索引原理和案例

目录	章节
MySQL索引与二分查找法	1、什么是索引 2、索引的优缺点 3、索引的最大长度 4、二分查找法：折半查找法 5、mysql一张表存多少数据后，索引性能就会下降？
剖析b+tree数据结构	1、B和B+树的区别 2、索引树高度 3、非叶子节点 4、指针 5、叶子节点 6、双向指针 7、b+tree插入操作 8、b+tree删除操作
相辅相成的聚集索引和辅助索引	1、聚集索引 2、聚集索引特点 3、聚集索引的优势 4、辅助索引
覆盖索引与回表查询	1、回表查询 2、覆盖索引
创建高性能的主键索引	1、主键索引创建的原则 2、主键索引的特点 3、为什么建议使用自增列作为主键
唯一索引与普通索引的性能差距	1、唯一索引特点 2、普通索引特点 3、唯一索引与普通索引的性能差距
前缀索引带来的性能影响	1、作用 2、坏处
如何使用联合索引	1、什么是联合索引 2、创建原则 3、排序
Online DDL影响数据库的性能和并发	1、5.6版本之前 2、新版本 3、online ddl语法 4、相关参数 5、示例 6、影响
pt-ocs原理与应用	1、安装pt-osc 2、pt-osc语法 3、案例 4、pt-osc原理
生产中索引的管理	1、建表时创建索引 2、建表后创建索引 3、查看索引
SQL语句无法使用索引的情况	1、where条件 2、联合索引 3、联表查询 4、其他情况

9、information_schema和sys中性能查看

目录	章节
最常用的STATISTICS和TABLES	1、STATISTICS：用于存放索引的信息 2、TABLES：用于存放库表的元数据信息
判断索引创建是否合理	1、选择性 2、索引创建的建议
检查联合索引创建是否合理	1、联合索引创建是否合理 2、有了联合索引(a,b),还需要单独创建a索引吗？
如何查找冗余索引	查找冗余索引
查找产生额外排序的sql语句	额外排序的sql语句
查找产生临时表的sql语句	临时表的sql语句
全表扫描的sql语句	全表扫描的sql语句
统计无用的索引	无用的索引
索引统计信息	1、存储索引统计信息 2、如何查看索引统计信息

10、MySQL优化器算法与执行计划

目录	章节
简单嵌套查询算法-simple nested-loop join	simple nested-loop join
基于索引的嵌套查询算法-index nested-loop join	index nested-loop join
基于块的嵌套查询算法- block nested-loop join	block nested-loop join
Multi-Range Read	MRR
bached key access join	BKA
mysql三层体系结构	体系结构
Index Condition Pushdown	索引条件下推
一条查询SQL语句是怎样运行的	查询SQL语句
一条更新SQL语句是怎样运行的	更新SQL语句
MySQL长连接与短连接的选择	1、相关参数 2、断开连接
执行计划explain	1、语法 2、执行计划解析

11、MySQL查询优化

目录	章节
MySQL查询优化技术	概览
子查询优化	1、优化器自动优化 2、优化措施：子查询合并 3、优化措施：子查询上拉技术
外连接消除	外连接消除
生产环境不使用join联表查询	不使用join
group by分组优化	1、group by执行流程 2、为什么group by要创建临时表
order by排序优化	排序优化
MySQL性能抖动问题	性能抖动问题
count(*)优化	count(*)优化
磁盘性能基准测试	1、安装sysbench 2、生成文件 3、测试文件io 4、清除文件
MySQL基准测试	1、生成数据 2、测试（读） 3、测试（写） 4、清理数据

12、事务原理和实战

目录	章节
认识事务	认识事务
事务控制语句	1、开启事务 2、事务提交 3、事务回滚
事务的实现方式	1、原子性 2、一致性 3、隔离性 4、持久性
purge thread线程	purge thread线程
事务统计QPS与TPS	1、QPS 2、TPS
事务隔离级别	1、隔离级别 2、查看隔离级别 3、设置隔离级别 4、不同隔离级别下会产生什么隔离效果
事务组提交group commit	组提交
事务两阶段提交	两阶段提交
MVCC多版本并发控制	1、MVCC原理 2、MVCC案例

13、锁的原理和应用

目录	章节
认识锁	1、锁的作用 2、加锁的过程 3、锁对象：事务
innodb行锁	1、行锁类型 2、共享锁(S锁) 3、排他锁(X锁)
索引对行锁粒度的影响	1、行锁粒度有哪些 2、在RC隔离级别下不同索引产生的锁的范围 3、RR隔离级别下不同索引产生锁的范围
FTWRL全局读锁	FTWRL全局读锁
innodb表锁	innodb表锁
innodb意向锁与MDL锁	1、意向锁 2、意向锁作用 3、意向锁冲突情况 4、MDL锁
自增锁	自增锁
插入意向锁	插入意向锁
死锁	1、什么是死锁 2、相关参数 3、避免死锁 4、锁的状态
两阶段锁协议	两阶段锁协议

14、慢查询原理和实战_快速优化方法_优化工具

目录	章节
1. 系统状态	show status
2. 慢查询	2.1 慢查询开启 2.2 简单示例 2.3 数据准备
3. mysqldumpslow	3.1 语法 3.2 常见用法
4. pt-query-digest	4.1 安装 4.2 语法选项 4.3 报告解读 4.4 用法示例
5. 优化工具(soar)	5.1 安装配置 5.2 添加数据库 5.3 语句优化

15、备份恢复原理和实战_逻辑备份_物理备份_金融行业备份还原脚本

目录	章节
1.生产中备份方式	1.1 物理备份与逻辑备份 1.2 联机与脱机备份 1.3 完整备份与增量备份 1.4 常用命令
2.mysqldump备份	2.1 相关参数 2.2 备份所有数据库 2.3 备份指定数据库 2.4 备份指定表 2.6 只导出结构 2.7 只导出数据 2.8 --tab（生成文本,类似load） 2.8 mysqldump原理 2.9 binlog异步备份 2.10 利用mysqldump全备及binlog恢复数据
3.xtrabackup	3.1 Xtrabackup安装 3.2 原理 3.2 备份过程 3.4 恢复原理 3.3 相关参数 3.4 xtrabackup相关文件 3.5 备份示例 3.6 还原示例
4.binlog备份和恢复（数据库恢复）	4.1 找到恢复时间点 4.2 增量恢复
5. 生产环境的备份恢复实战	5.1 实施部署 5.1.1 环境清单 5.1.2 备份目的 5.1.3 备份说明 5.1.4 实施步骤 5.1.5 全备脚本 5.1.6 差异备份脚本 5.2 实施部署备份还原 5.2.1 Xtraback还原全量/差异备份 5.2.2 故障点数据恢复 5.2.3 增量恢复

16、主从复制,gtid,并行复制_半同步复制_实操案例_常用命令_故障处理

目录	章节
1.认识主从复制	1.1 主从复制原理深入讲解 1.2 主从复制相关参数 1.3.主从复制架构部署 1.4从库状态详解 1.5 .过滤复制
2 .gtid复制	2.1 什么是GTID？ 2.2 GTID主从配置 2.5 gtid维护 2.4 GTID的特点 2.3 工作原理 2.4 gtid相关状态行和变量
3. 并行复制	3.1 延迟的原因 3.2 并行复制设置 3.3 查看并行复制
4. 增强半同步复制	4.1 异步复制 4.2 半同步复制 4.3 增强半同步复制 4.4 配置增强半同步
5. 案例	5.1 主库删除操作导致sql线程关闭案例 5.2 主从复制中断解决方案及案例 5.3 延迟复制 5.4 主库drop误操作利用延迟复制恢复案例
6 常用命令	6.1 启动线程 6.2 关闭线程 6.3 查看 6.4 重置 6.5 主从数据一致性校验

17、MySQL高可用和读写分离架构
MHA

目录	章节
MHA	介绍
架构和相关组件	架构和相关组件
工作流程	工作流程
MHA高可用架构部署	1、环境准备 2、软件安装 3、创建软链接 4、配置各节点互信 5、节点免密验证 6、mha管理用户 7、配置文件 8、状态检查 9、开启MHA
主库宕机故障模拟及处理	主库宕机故障模拟及处理
MHA VIP自动切换	VIP自动切换
MHA主从数据自动补足	MHA主从数据自动补足

Atlas

目录	章节
Atlas读写分离高性能架构	介绍
安装配置	安装配置
配置注解	配置注解
启动和关闭	启动和关闭
读写分离架构应用	读写分离架构应用
创建应用用户	创建应用用户
Atlas在线管理	Atlas在线管理
读写分离避坑指南	读写分离避坑指南

18、MySQL分库分表_原理实战

目录	章节
1.MyCAT分布式架构入门及双主架构	1.1 主从架构 1.2 MyCAT安装 1.3 启动和连接 1.4 配置文件介绍
2.MyCAT读写分离架构	2.1 架构说明 2.2 创建用户 2.3 schema.xml 2.4 连接说明 2.5 读写测试 2.6 当前是单节点
3.MyCAT高可用读写分离架构	3.1 架构说明 3.3 schema.xml(配置) 3.4 文件详解 3.4.1 schema标签 3.4.2 table标签 3.4.3 dataNode标签 3.4.4 dataHost 3.4 读写测试 3.5 故障转移
4.MyCAT垂直分表	4.1 架构 4.2 新建表 4.3 配置mycat 4.4 验证
5 MyCAT水平分表-范围分片	5.1 新建表 5.2 schema.xml 5.2 rule.xml 5.3 autopartition-long.txt 5.4 验证
6. MyCAT水平分表-取模分片	取模分片
7. MyCAT水平分表-枚举分片	枚举分片
8. MyCAT全局表与ER表	全局与ER表
8.1 全局表	8.1.1 特性 8.1.2 建表 8.1.3 配置 8.1.4 验证 8.1.5 分析总结(执行计划)
8.2 ER表	8.2.1 特性 8.2.2 建表 8.2.3 配置 8.2.4 测试验证，子表是否跟随父表记录分片 8.2.5 分析总结（执行计划）

19、基准性能测试_sysbench

目录	章节
1. sysbench	1.1 用途 1.2 安装 1.3 版本 1.4 查看帮助 1.5 测试过程阶段
2 CPU 性能测试	2.1 测试原理 2.2 查看帮助 2.3 测试
3. 内存性能测试	3.1 查看帮助信息 3.2 测试过程
4.磁盘性能基准测试	4.1 查看帮助 4.2 生成文件(prepare) 4.3 测试文件io(run) 4.4 结果分析 4.5 清除文件(cleanup)
5. 线程测试	5.1 查看帮助信息 5.2 测试过程
6. MySQL基准测试	6.1 语法参数 6.2 生成数据 6.3 测试（读） 6.4 测试（写） 6.5 清理数据