Linux文件系统与日志分析

一、inode与block

1、 inode和block概述

文件数据包括元信息与实际数据

文件存储在硬盘上，硬盘最小存储单位是“扇区”，每个扇区存储512字节

▶block（块）
①连续的八个扇区组成一个block（4k）
②是文件存取的最小单位

▶inode（索引节点）
①中文译名为“索引节点”，也叫 i 节点
②用于存储文件元信息

注：每一个文件必须占用一个inode号，但至少占用一个block。

2、inode的内容

▶inode包含文件的元信息

1、文件的字节数
2、文件拥有者的User ID（属主）
3、文件的Group ID（属组）
4、文件的读、写、执行权限
5、文件的时间戳
6、文件类型
7、链接数
…

▶用 stat 命令可以查看某个文件的inode信息
示例：

stat cl.txt

▶Linux系统文件三个主要的时间属性

1、ctime（change time）：最后一次改变文件或目录的时间，例如执行chmod、chown。

2、atime（access time）：是最近一次访问文件或目录的时间。

3、mtime（modify time）：是最后一次修改文件或目录（内容）的时间

▶目录文件的结构
1、目录也是一种文件
2、目录文件的结构

▶每个inode都有一个号码，操作系统用inode号码来识别不同的文件

▶linux系统内部使用不同文件名，而使用inode来识别文件

▶对于用户，文件名只是inode号码便于识别的别称

3、 inode的号码

▶用户通过文件名打开文件时，系统内部的过程
1、系统找到这个文件名对应的inode号码
2、通过inode号码，获取inode信息
3、根据inode信息，找到文件数据所在的block，读出数据

▶查看inode号码的方法
1、ls -i 命令：查看文件名对应的 inode 号码

ls  -i  cl.txt

2、stat 命令：查看文件 inode 信息中的 inode 号码

stat   cl.txt

4、 文件存储

▶硬盘分区后的结构

▶访问文件的简单流程

5、 inode的大小

▶inode也会消耗硬盘空间。

1、每个inode的大小
2、一般是128字节或256字节

▶格式化文件系统时确定inode的总数

▶使用df -i命令可以查看每个硬盘分区的inode总数和已经使用的数量

6、 inode 的特殊作用

▶由于inode号码与文件名分离，导致Linux系统具备以下几种特有的现象：

1、文件名包含特殊字符，可能无法正常删除。这时直接删除inode，能够起到删除文件的作用

2、移动文件或重命名文件，只是改变文件名，不影响inode号码

3、打开一个文件以后，系统就以inode号码来识别这个文件，不再考虑文件名

4、文件数据被修改保存后，会生成一个新的inode号码

注：
删除inode号就是删除文件

find ./ -inum   inode号码  -exec rm -i {} \;
find ./ -inum   inode号码  -delete

7、inode节点耗尽实验

fdisk  /dev/sdb   #使用fdisk创建分区 /dev/sdb1，分区大小 30M 即可
mkfs.ext3 /dev/sdb1   #格式化分区
mkdir  /cl       #创建一个目录kkk
mount  /dev/sdb1  /cl   #将分区挂载在kkk下
df -Th          #查看挂载情况
for((i=1; i<=7700; i++)); do touch /cl/file$i; done        ( 或i=i+1  或i+=1 )

touch {1..7700}.txt #模拟 inode 节点耗尽故障
df -i
df -Th

rm -rf /cl/*   #删除文件恢复

df -i
df -Th

二、硬链接与软链接

1、链接文件

▶为文件或目录建立链接文件

▶链接文件分类

操作和范围	软链接	硬链接
删除原始文件后	失	效 仍然可用
使用范围	适用于文件或目录	可用于文件
保存位置	与原始文件可以位于不同的文件系统中	必须与原始文件在同一个文件系统(如一个Linux分 区)内

2、软硬链接命令

1、硬链接：
ln 源文件 目标位置

2、软链接：
ln -s 源文件或目录 链接文件或目标位置

三、恢复删除的文件

1、恢复 EXT 类型的文件

▶编译安装extundelete软件包

▶安装依赖包
e2fsprogs-libs-1.41.12-18.el6.x86_64.rpm

e2fsprogs-devel-1.41.12-18.el6.x86_64.rpm

▶配置、编译及安装
extundeleye-0.2.4.tar.bz2

▶模拟删除并执行恢复操作实验

extundelete是一个开源的Linux数据恢复工具，支持ext3、ext4文件系统 (ext4只能在centos6版本恢复)

#使用fdisk创建分区/dev/sdc1，格式化ext3文件系统，并挂载
fdisk /dev/sdc
 mkfs.ext3 /dev/sdc1
 mkdir /test
 mount /dev/sdc1/ test
 df -hT #查看

#安装依赖包
yum -y install e2fsprogs-devel e2fsprogs-libs gcc gcc-c++
 
#编译安装 extundelete
cd /test
 
wget http://nchc.dl.sourceforge.net/project/extundelete/extundelete/0.2.4/extundelete-0.2.4.tar.bz2


tar jxvf extundelete-0.2.4.tar.bz2    #解压缩
 
cd extundelete-0.2.4/
 
 ./configure --prefix=/usr/local/extundelete && make && make install
或者
 ./configure && make && make install

ln -s /usr/local/bin/extundelete/ /usr/bin/
 
#模拟删除并执行恢复操作
 
cd /test
 
echo a>a
echo b>b
echo c>c
echo d>d
 
ls   #查看是否有 a b c d 文件
 
extundelete /dev/sdc1 --inode 2
###查看文件系统/dev/sdc1下存在哪些文件，i节点是从2开始的，2代表该文件系统最开始的目录。
 
rm -rf a b
extundelete /dev/sdc1 --inode 2
 
#开始恢复数据
umount /test
 
extundelete /dev/sdc1  --restore-all
#恢复/dev/sdc1文件系统下所有内容
 
ls RECOVERED_FILES/
#在当前目录下会出现一个RECOVERED_FILES/目录，里面保存了已经恢复的文件

2、恢复 XFS 类型的文件

▶xfsdump命令格式

xfsdump  -f  备份存放位置  要备份的路径或设备文件

▶xfsdump备份级别（默认为0）
1、0：完全备份
2、1-9：增量备份

▶xfsdump常用选项

常用选项	功能
-f	指定备份文件目录
-L	指定标签session label
-M	指定设备标签media label
-S	备份单个文件，-s后面不能直接跟路径

▶ xf sdump使用限制:

1、只能备份已挂载的文件系统
2、必须使用root的权限才能操作
3、只能备份XFS文件系统
4、备份后的数据只能让xfsrestore解析
5、不能备份两个具有相同UUID的文件系统(可用blkid命令查看)

▶模拟删除并执行恢复操作

#使用fdisk创建分区/dev/sdb1，格式化xfs文件系统
fdisk /dev/ sdb 或 partprobe /dev/ sdb
mkfs.xfs [-f] /dev/ sdb1
mkdir /data
mount /dev/ sdb1 /data/
cd /data
cp /etc/passwd ./
mkdi rtest
touch test/a

#使用xfsdump 命令备份整个分区
rpm -qa| grep xfsdump
yum install -y xfsdump
xfsdump -f /opt/dump_sdb1 /dev/sdb1 #有交互界面
xfsdump -f /opt/dump_sdb1 /dev/sdb1 -L dump sdb1 -M sdb1 #无交互界面

#模拟数据丢失并使用 x fsrestore 命令恢复文件
cd /data/
rm -rf ./*
ls

xfsrestore -f /opt/dump_ sdb1 /data/

补充：增量备份

xfsdump -l 1 -f /opt/dump_sdb1_level_1 /dev/sdb1 -L dump_sdb1_level_1 -M sdb1（-l是备份等级）

注意：生产上我们使用cp或scp进行备份。

四、分析日志文件

1、日志文件概念

▶日志的功能
1、用于记录系统、程序运行中发生的各种事件

2、通过阅读日志，有助于诊断和解决系统故障

▶日志文件的分类
1、内核及系统日志
由系统服务rsyslog统一进行管理，日志格式基本相似

2、用户日志
记录系统用户登录及退出系统的相关信息。

3、程序日志
有各种应用程序独立管理的日志文件，记录格式不一

2、日志文件位置

▶内核及系统日志由系统服务rsyslog 统一管理，主配置文为/etc/rsyslog.conf

▶Linux操作系统本身和大部分服务器程序的日志文件都默认放在目录/var/log/下。

3、主要日志文件

1、内核及公共消息日志 ：
/var/log/messages: 记录Linux内核消息及各种应用程序的公共日志信息，包括启动、I0错误、网络错误、程序故障等。 对于未使用独立日志文件的应用程序或服务，一般都可以从该日志文件中获得相关的事件记录信息

2、计划任务日志：
/var/log/ cron ： 记录crond计划任务产生的事件信息

3、系统引导日志 ：
/var/ log/ dmesg: 记录Linux系统在引导过程中的各种事件信息

4、邮件系统日志 ：
/var/log/maillog:记录进入或发出系统的电子邮件活动

5、用户登录日志 ：
/var/log/secure: 记录用户认证相关的安全事件信息。
/var/log/lastlog: 记录每个用户最近的登录事件。二进制格式
/var/log/wtmp: 记录每个用户登录、注销及系统启动和停机事件。二进制格式
/var/ run/btmp: 记录失败的、错误的登录尝试及验证事件。二进制格式

vim /etc/rsyslog.conf   #查看rsyslog.conf配置文件

*.info;mail.none; authpriv.none; cron.none     /var/ log/messages 

*.info  #表示info等级及以上的所有等级的信息都写到对应的日志文件里
mail.none   #表示某事件的信息不写到日志文件里(这里比如是邮件)

4、内核及系统日志

▶由系统服务 rsyslog 统一管理

1、软件包：rsyslog-7.4.7-16.el7.x86_64

2、主要程序：/sbin/rsyslogd

3、配置文件：/etc/rsyslog.conf

▶日志消息的级别

级号	消息	级别	说明
0	EMERG	紧急	会导致主机系统不可用的情况
1	ALERT	警告	必须马上采取措施解决的问题
2	CRIT	严重	比较严重的情况
3	ERR	错误	运行出现错误
4	WARNING	提醒	可能影响系统功能，需要提醒用户的重要事件
5	NOTICE	注意	下会影响正常功能，但是需要注意的事件
6	INFO	信息	一般信息
7	DEBUG	调试	程序或系统调试信息等

▶ 日志记录的一般格式
公共日志 /var/log/messages 文件的记录格式
时间标签：消息发出的日期和世家
主机名：生成消息的计算机的名称
子系统名称：发出消息的应用程序的名称
消息字段：消息的具体内容

5、程序日志分析

▶由相应的应用程序独立进行管理

Web服务：/var/log/httpd/
access_log、error_log

代理服务:：/var/log/lsquid/
access.log、cache.log

FTP服务：/var/log/xferlog

▶分析工具

文本查看、grep过滤检索、Webmin管理套件中查看
awk、sed等文本过滤、格式化编辑工具
Webalizer、Awstats等专用日志分析工具

6、用户日志分析

① 保存了用户登录、退出系统等相关信息
• /varlog/lastlog:最近的用户登录事件
• /var/log/wtmp:用户登录、注销及系统开、关机事件
• /var/run/utmp:当前登录的每个用户的详细信息
• /var/log/secure:与用户验证相关的安全性事件

② 分析工具

• users、who、W、last、 lastb、lastlog
• last命令用于查询成功登录到系统的用户记录
• lastb命令用于查询登录失败的用户记录
•lastlog查看用户登录与未登录信息
w , who, users 命令：查询已登陆到主机的用户信息
补充：last
lastlog -u 用户名 #查看用户最后一次登录
lastlog -t 2 #两天内的登录信息

7、日志管理策略

① 及时作好备份和归档
② 延长日志保存期限
③ 控制日志访问权限
• 日志中可能会包含各类敏感信息，如账户、口令等

④ 集中管理日志
• 将服务器的日志文件发到统一的日志文件服务器
• 便于日志信息的统- -收集、整理和分析
• 杜绝日志信息的意外丢失、恶意篡改或删除