Linux文件系统与日志分析
一、inode与block
1. 文件、扇区
- 文件是存储在硬盘上的,硬盘的最小存储单位叫做“扇区”(sector),每个扇区存储512字节。
2. 块
- 一般连续八个扇区组成一个“块”(block),一个块是4K大小,是文件存取的最小单位。操作系统读取硬盘的时候,是一次性连续读取多个扇区,即一个块一个块地读取的。
3. 文件数据
- 文件数据包括实际数据与元信息(类似文件属性)。文件数据存储在“块”中,存储文件元信息(比如文件的创建者、创建日期、文件大小、文件权限等)的区域就叫做inode。因此,一个文件必须占用一个inode,并且至少占用一个block。
4. inode
- inode不包含文件名。文件名是存放在目录当中的。Linux系统中一切皆文件,因此目录也是一种文件。
- 每个inode都有一个号码,操作系统用inode号码来识别不同的文件。Linux系统内部不使用文件名,而使用inode号码来识别文件。对于系统来说,文件名只是inode号码便于识别的别称,文件名和inode号码是一一对应关系,每个inode号码对应一个文件名。
5. 结论
当用户在Linux系统中试图访问一个文件时
- 系统会先根据文件名去查找它对应的inode号码
- 通过inode号码,获取inode信息
- 根据inode信息,看用户是否具有访问这个文件的权限,如果有,就指向相对应的数据block,并读取数据。
6. 补充
Linux系统文件三个主要的时间属性:
time(change time)
- 最后一次改变文件或目录(属性)的时间
atime(access time)
- 最后一次访问文件或目录的时间
mtime(modify time)
- 最后一次修改文件或目录(内容)的时间
查看文件名对应的inode号码有两种方式:
ls -i 文件名
stat 文件名
-
inode也会消耗硬盘空间,所以格式化的时候,操作系统自动将硬盘分成两个区域。一个是数据区,存放文件数据,另一个是inode区,存放inode所包含的信息。每个inode的大小,一般是128字节或256字节。
-
通常情况下不需要关注单个inode的大小,而是需要重点关注inode总数。inode总数在格式化时就给定了,执行“df -i”命令即可查看每个硬盘分区对应的inode总数和已经使用的inode数量。
由于inode号码与文件名分离,导致Linux系统具备以下几种特有的现象 -
文件名包含特殊字符,可能无法正常删除,这时直接删除inode,能够起到删除文件的作用
-
移动文件或重命名文件,只是改变文件名,不影响inode号码
-
打开一个文件以后,系统就以inode号码来识别这个文件,不再考虑文件名
-
文件数据被修改保存后,会生成一个新的inode号码。
find命令通过inode号码查找文件并执行操作:
find ./ -inum inode号码 -exec rm -rf {} \;
或
find ./ -inum inode号码 -delete
二、inode节点耗尽故障处理
- 使用fdisk创建分区/dev/sdb1,分区大小30M即可
fdisk /dev/sdb 创建磁盘分区
mkfs.ext4 /dev/sdb1 格式化
mount /dev/sdb1 /mnt 挂载
df -i
- 模拟inode节点耗尽故障
for循环方式创建文件:
for ((i=1;i<=7680;i++));do touch /mnt/file$i;done;
或
touch {1..7680}.txt
- 删除文件恢复
三、EXT类型文件恢复
extundelete 是一个开源的 Linux 数据恢复工具,支持 ext3、ext4文件系统。(ext4只能在centos6版本恢复)
操作步骤
- 使用fdisk创建分区/dev/sdb2,格式化ext3文件系统
fdisk /dev/sdb
mkfs.ext3 /dev/sdb2
mount /dev/sdb2 /mnt
- 安装依赖包并解压缩文件
yum -y install e2fsprogs-devel e2fsprogs-libs
cd /sdb2
拖入压缩包
tar jxvf extundelete-0.2.4.tar.bz2
cd extundelete-0.2.4/
./configure --prefix=/usr/local/extundelete && make && make install
ln -s /usr/local/extundelete/bin/* /usr/bin/
- 模拟删除并执行恢复操作
cd /mnt
echo a>a
echo a>b
echo a>c
echo a>d
ls
- 查看文件系统/dev/sdb2下存在哪些文件,i 节点是从 2 开始的,2 代表该文件系统最开始的目录。
extundelete /dev/sdb1 --inode 2
rm -rf a b
cd ~
umount /sdb2
extundelete /dev/sdb2 --restore-all 恢复/dev/sdb2文件系统下的所有内容
在当前目录下会出现一个RECOVERED_FILES/目录,里面保存了已经恢复的文件
ls RECOVERED_FILES
四、XFS类型文件修复
CentOS 7 系统默认采用 xfs类型的文件,xfs 类型的文件可使用 xfsdump 与 xfsrestore 工具进行备份恢复。
xfsdump 命令常用的选项:
- -f:指定备份文件目录
- -L:指定标签 session label
- -M:指定设备标签 media label
- -s:备份单个文件,-s 后面不能直接跟路径
xfsdump使用限制:
- 只能备份已挂载的文件系统
- 必须使用root的权限才能操作
- 只能备份XFS文件系统
- 备份后的数据只能让xfsrestore解析
- 不能备份两个具有相同UUID的文件系统(可用 blkid命令查看)
操作步骤:
- 使用fdisk创建分区/dev/sdb1,格式化xfs文件系统
fdisk /dev/sdb
partprobe /dev/sdb
mkfs.xfs /dev/sdb1
mount /dev/sdb1 /mnt
cd /mnt
cp /etc/passwd ./
mkdir test
touch test/a
- 使用 xfsdump 命令备份整个分区
yum install -y xfsdump
xfsdump -f /opt/dump_sdb1 /dev/sdb1 -L dump_sdb1 -M sdb1
- 模拟数据丢失并使用 xfsrestore 命令恢复文件
cd /sdb1
rm -rf ./*
xfsrestore -f /opt/dump_sdb1 /sdb1
五、日志文件
1. 日志的功能
- 用于记录系统、程序运行中发生的各种事件
- 通过阅读日志,有助于诊断和解决系统故障
2. 日志文件的分类
内核及系统日志
- 由系统服务rsyslog统一进行管理,日志格式基本相似
- 主配置文件/etc/rsyslog.conf
用户日志
- 记录系统用户登录及退出系统的相关信息
程序日志
- 由各种应用程序独立管理的日志文件,记录格式不统一
3. 日志保存位置及介绍
- 默认位于:var/log目录下
主要日志文件介绍:
- 内核及公共消息日志:
/var/log/message:记录Linux内核消息及各种应用程序的公共日志信息,包括启动、IO错误、网络错误、程序故障等。对于未使用独立日志文件的应用程序或服务,一般都可以从该日志文件中获得相关的事件记录信息 - 计划任务日志:
/var/log/cron:记录cron计划任务产生的事件信息 - 系统引导日志:
/var/log/dmesg:记录Linux系统在引导过程中的各种事件信息 - 邮件系统日志:
/var/log/mailog:记录进入或发出的电子邮件活动 - 用户登录日志:
/var/log/secure:记录用户认证相关的安全事件信息
/var/log/lastlog:记录每个用户最近的登录事件。二进制格式
/var/log/wtmp:记录每个用户登录、注销及系统启动和停机事件。二进制格式
/var/run/btmp:记录失败的、错误的登录尝试及验证事件。二进制格式
4. Linux系统内核日志消息的优先级别
数字等级越小,优先级越高,消息越重要
级号 | 消息(级别) | 说明 |
---|---|---|
0 | EMERG(紧急) | 会导致主机系统不可用的情况 |
1 | ALERT(警告) | 必须马上采取措施解决的问题 |
2 | CRIT(严重) | 比较严重的情况 |
3 | ERR(错误) | 运行出现错误 |
4 | WARNING(提醒) | 可能影响系统功能,需要提醒用户的重要事件 |
5 | NOTICE(注意) | 不会影响正常功能,但是需要注意的事件 |
6 | INFO(信息) | 一般信息 |
7 | DEBUG(调试) | 程序或系统调试信息等 |
5. 日志管理策略
- 及时做好备份和归档
- 延长日志保存期限
- 控制日志访问权限
日志中可能会包含各类敏感信息,如账户、口令等 - 集中管理日志
将服务器的日志文件发到统一的日志文件服务器
便于日志信息的统一收集、整理和分析
杜绝日志信息的意外丢失、恶意篡改或删除