linux文件系统与日志分析

一、inode与block

1.概述

• 文件是存储在硬盘上的，硬盘的最小存储单位叫做“扇区”（sector），每个扇区存储512字节。
• 一般连续八个扇区组成一个"块"（block），一个块是4K大小，是文件存取的最小单位。操作系统读取硬盘的时候，是一次性连续读取多个扇区，即一个块一个块的读取的。
• 文件数据包括实际数据与元信息（类似文件属性）。文件数据存储在“块”中，存储文件元信息（比如文件的创建者、创建日期、文件大小、文件权限等）的区域就叫做inode。因此，一个文件必须占用一个 inode，并且至少占用一个 block。
• inode不包含文件名。文件名是存放在目录当中的。Linux 系统中一切皆文件，因此目录也是一种文件。
• 每个inode都有一个号码，操作系统用inode号码来识别不同的文件。Linux系统内部不使用文件名，而使用inode号码来识别文件。对于系统来说，文件名只是inode号码便于识别的别称，文件名和inode号码是一一对应关系，每个inode号码对应一个文件名。当用户在Linux系统中。

• 试图访问一个文件时，系统会先根据文件名去查找它对应的inode号码；通过inode号码，获取inode信息；根据inode信息，看该用户是否具有访问这个文件的权限；如果有，就指向相对应的数据block，并读取数据

硬盘分区后的结构 

文件名	目录文件	目录块	文件名与inode号相对应
元信息	inode	inode表区块	除文件名以外属性
实际数据	block	block数据块	文件内容

读取文件流程 

用户通过文件名打开文件时，系统内部的过程
1、系统找到这个文件名对应的inode号码
2、通过inode号码，获取inode信息
3、根据inode信息，找到文件数据所在的block,读出数据 

2.inode(索引节点)包含文件的元信息

• 文件的字节数
• 文件拥有者的User ID
• 文件的Group ID
• 文件的读、写、执行权限
• 文件的时间戳
• 指向block

查看inode号
stat  文件
ls -i 文件

linux系统文件三个主要的时间属性 

atime(access time)	最近一次访问文件时间
mtime(modify time)	最近一次修改文件内容的时间
ctime(change time)	最近一次修改文件属性的时间

3.inode的大小

inode也会消耗硬盘空间，所以格式化的时候，操作系统自动将硬盘分成两个区域。一个是数据区，存放文件数据；另一个是 inode 区，存放 inode 所包含的信息。每个 inode 的大小，一般是 128 字节或 256 字节。
通常情况下不需要关注单个 inode 的大小，而是需要重点关注 inode 总数。inode 的总数在格式化时就给定了，执行 “df -i” 命令即可查看每个硬盘分区对应的的 inode 总数和已经使用的inode 数量。 

df -i     #查看文件inode号使用情况

4.inode的特殊作用

由于 inode 号码与文件名分离，导致Linux 系统具备以下几种特有的现象：
1.文件名包含特殊字符，可能无法正常删除。这时直接删除 inode，能够起到删除文件的作用；
2.移动文件或重命名文件，只是改变文件名，不影响 inode 号码；
3.打开一个文件以后，系统就以 inode 号码来识别这个文件，不再考虑文件名。
4.使用 vi 编辑器修改文件数据保存后，会生成一个新的 inode 号码。 

二、ext3、ext4类型文件恢复

extundelete 是一个开源的 Linux 数据恢复工具，支持 ext3、ext4文件系统。（ext4只能在centos6版本恢复）

#使用fdisk创建分区/dev/sdc1，格式化ext3文件系统
fdisk /dev/sdc
partprobe /dev/sdc      #刷新/dev/sdc分区
mkfs.ext3 /dev/sdc1
mkdir /test
mount /dev/sdc1 /test
df -hT

#安装依赖包
yum -y install e2fsprogs-devel e2fsprogs-libs
#编译安装 extundelete
cd /test
wget http://nchc.dl.sourceforge.net/project/extundelete/extundelete/0.2.4
/extundelete-0.2.4.tar.bz2
tar jxvf extundelete-0.2.4.tar.bz2
cd extundelete-0.2.4/
./configure --prefix=/usr/local/extundelete && make && make install
ln -s /usr/local/extundelete/bin/* /usr/bin/

#模拟删除并执行恢复操作
cd /test
echo a>a
echo a>b
echo a>c
echo a>d
ls
extundelete /dev/sdc1 --inode 2			
#查看文件系统/dev/sdc1下存在哪些文件，i 节点是从 2 开始的，2 代表该文件系统最开始的目录。

rm -rf a b
extundelete /dev/sdc1 --inode 2	
cd ~
umount /test
extundelete /dev/sdc1 --restore-all		#恢复/dev/sdc1 文件系统下的所有内容
#在当前目录下会出现一个RECOVERED_FILES/目录，里面保存了已经恢复的文件
ls RECOVERED_FILES/

三、xfs类型文件备份和恢复

1.xfsdump命令

CentOS 7 系统默认采用 xfs类型的文件，xfs 类型的文件可使用 xfsdump 与 xfsrestore 工具进行备份恢复。
xfsdump 的备份级别有两种：0 表示完全备份；1-9 表示增量备份。xfsdump 的备份级别默认为 0。

xfsdump -f 备份存放位置 要备份的路径或设备文件

-f：指定备份文件目录
-L：指定标签 session label
-M：指定设备标签 media label
-s：备份单个文件，-s 后面不能直接跟路径 

xfsrestore -f 恢复文件的位置 存放恢复后文件的位置

xfsdump使用限制:
1.只能备份已挂载的文件系统
2.必须使用root的权限才能操作
3.只能备份XFS文件系统
4.备份后的数据只能让xfsrestore解析
5.不能备份两个具有相同UUID的文件系统（可用 blkid命令查看）

#使用fdisk创建分区/dev/sdb1，格式化xfs文件系统
fdisk /dev/sdb
partprobe /dev/sdb
mkfs.xfs [-f] /dev/sdb1
mkdir /data
mount /dev/sdb1 /data/
cd /data
cp /etc/passwd ./
mkdir test
touch test/a

#使用 xfsdump 命令备份整个分区
rpm -qa | grep xfsdump        #查看xfsdump是否已安装
yum install -y xfsdump        #安装xfsdump
xfsdump -f /opt/dump_sdb1 /dev/sdb1 [-L dump_sdb1 -M sdb1]

#模拟数据丢失并使用 xfsrestore 命令恢复文件
cd /data/
rm -rf ./*
ls

xfsrestore -f /opt/dump_sdb1 /data/

2.cpio命令

cpio 命令用于从归档包中存入和读取文件，换句话说，cpio 命令可以从归档包中提取文件（或目录），也可以将文件（或目录）复制到归档包中。

cpio 命令可以看做是备份或还原命令，因为它可以将数据（文件）备份到 cpio 归档库，也可以利用 cpio 文档库对数据进行恢复。

使用 cpio 命令备份或恢复数据，需注意以下几点：

• 使用 cpio 备份数据时如果使用的是绝对路径，那么还原数据时会自动恢复到绝对路径下；同理，如果备份数据使用的是相对路径，那么数据会还原到相对路径下。
• cpio 命令无法自行指定备份（或还原）的文件，需要目标文件（或目录）的完整路径才能成功读取，因此此命令常与 find 命令配合使用。
• cpio 命令恢复数据时不会自动覆盖同名文件，也不会创建目录（直接解压到当前文件夹）。

cpio -o[vcB] > [文件丨设备]     

-o：copy-out模式，备份；

-v：显示备份过程；

-c：使用较新的portable format存储方式；

-B：设定输入/输出块为 5120Bytes，而不是模式的 512Bytes；

cpio -i[vcdu] < [文件|设备]

-i：copy-in 模式，还原；

-v：显示还原过程；

-c：较新的 portable format 存储方式；

-d：还原时自动新建目录；

-u：自动使用较新的文件覆盖较旧的文件

###备份
[root@7-1 ~]# find /opt | cpio -ovcB > /data/opt.cpio
##利用find命令指定要备份/opt目录，使用>导出到opt.cpio文件
[root@7-1 ~]# ll /data/opt.cpio
-rw-r--r--. 1 root root 5457920 4月  16 10:47 /data/opt.cpio
#opt.cpio文件生成

###恢复
[root@7-1 ~]# cpio -idvcu < /data/opt.cpio
#还原opt的备份
#如果大家査看一下当前目录/data/，就会发现没有生成/opt/目录。这是因为备份时/opt/目录使用的是绝对路径，所以数据直接恢复到/opt/系统目录中，而没有生成在/data/opt/目录中

三、日志文件

1.日志的功能

• 用于记录系统，程序运行中发生的各种事件
• 通过阅读日志，有助于诊断和解决各种故障 

2.日志文件的分类

内核与系统日志 

• 由系统rsyslog统一进行管理，日志格式基本一致
• 主配置文件/etc/rsyslog.conf

用户日志 

• 记录系统用户登录及退出系统的相关信息

程序日志 

• 由各种应用程序独立管理的日志文件，记录格式不统一

日志保存位置默认位于： /var/log目录下 

3.日志文件介绍

内核及公共消息公告	./var/log/messages
计划任务日志	./var/log/cron
系统引导日志	./var/log/dmesg
邮件系统日志	./var/kog/maillog
用户登录日志	./var/log/lastlog ./var/log/secure  ./var/log/wtmp ./var/run/btmp

/var/log/messages：记录Linux内核消息及各种应用程序的公共日志信息，包括启动、IO错误、网络错误、程序故障等。对于未使用独立日志文件的应用程序或服务，一般都可以从该日志文件中获得相关的事件记录信息。
/var/log/cron：记录crond计划任务产生的事件信息。
/var/log/dmesg：记录Linux系统在引导过程中的各种事件信息。
/var/log/maillog：记录进入或发出系统的电子邮件活动。
/var/log/secure：记录用户认证相关的安全事件信息。
/var/log/lastlog：记录每个用户最近的登录事件。二进制格式
/var/log/wtmp：记录每个用户登录、注销及系统启动和停机事件。二进制格式
/var/run/btmp：记录失败的、错误的登录尝试及验证事件。二进制格式

4.日志分析工具

 分析工具 users、who、w、last、lastb 

lastlog   #根据用户查看最近登录信息

last        #根据时间查看最近的登录信息

lastb      #记录最近登录错误的信息（从btmp中获取 ）

#查看系统负载

w

cat /proc/loadavg

uptime

 查看日志信息

tail -100 tail -100 /var/log/messages | grep -i error
#查看日志最后100行错误信息

5.日志消息级别

Linux系统内核日志消息的优先级别（数字等级越小，优先级越高，消息越重要）：

0	EMERG（紧急）	会导致主机系统不可用的情况。如系统崩溃
1	ALERT（警告）	必须马上采取措施解决的问题。如数据库被破坏
2	CRIT（严重）	比较严重的情况。如硬盘错误，可能会阻碍程序的部分功能
3	ERR（错误）	运行出现错误。不是非常紧急，尽快修复的
4	WARNING（提醒）	可能影响系统功能，需要提醒用户的重要事件。不是错误，如磁盘用了85%等
5	NOTICE（注意）	不会影响正常功能，但是需要注意的事件。无需处理
6	INFO（信息）	一般信息。正常的系统信息
7	DEBUG（调试）	程序或系统调试信息等。包含详细开发的信息，调试程序时使用

 failed不会出现系统日志里，通常出现在软件日志里。

程序自己维护日志记录，httpd 网站服务程序使用两个日志文件：
access_log         #记录客户访问事件
error_log             #记录错误事件。

6.日志管理

日志管理工具journalctl是centos7上专有的日志管理工具，该工具是从message这个文件里读取信息。
Systemd统一管理所有Unit的启动日志。带来的好处就是，可以只用journalctl一个命令，查看所有日志（内核日志和应用日志）。
日志的配置文件是/etc/systemd/journald.conf

#查看所有日志（默认情况下，只保存本次启动的日志）
journalctl
journalctl -r                #-r表示倒序，从尾部看（推荐）

#查看内核日志（不显示应用日志）
journalctl -k

#查看系统本次启动的日志    
journalctl -b  [-0]

#查看上一次启动的日志（需更改设置,如上次系统崩溃，需要查看日志时，就要看上一次的启动日志）
journalctl -b -1

#显示尾部指定行数的日志
查看的是/var/log/messages的日志，但是格式上有所调整，如主机名格式不一样而已
journalctl -n 20 [-f]

#查看某个服务的日志
journalctl -u nginx.service [-f]

#查看指定进程的日志
journalctl _PID=1

#查看指定用户的日志
journalctl _UID=0  --since today

journalctl -xe
# -x 是目录(catalog)的意思，在报错的信息下会，附加解决问题的网址
#-e  pager-end 从末尾开始看