Linux文件系统与日志分析
一、inode和block
1、inode和block之间的关系
文件是存储在硬盘上的,硬盘的最小存储单位叫做“扇区" (sector) ,每个扇区存储512字节。
一般连续八个扇区组成一个"块" (block) ,一个块是4K大小,是文件存取的最小单位。操作系统读取硬盘的时候,是一次性连续读取多个扇区,即一个块一个块的读取的。
文件数据包括实际数据与元信息(类似文件属性)。文件数据存储在“块"中,存储文件元信息(比如文件的创建者、创建日期、文件大小、文件权限等)的区域就叫做 inode ,因此,一个文件必须占用一个inode,并且至少占用一个block。inode不包含文件名。文件名是存放在目录当中的。Linux系统中一切皆文件,因此目录也是一种文件。
每个inode都有一个号码,操作系统用inode号码来识别不同的文件。Linux系统内部不使用文件名,而使用inode号码来识别文件。对于系统来说,文件名只是inode号码便于识别的别称,文件名和inode号码是一 一 对应关系,每个inode号码对应一个文件名。
所以,当用户在Linux系统中试图访问一个文件时,系统会先根据文件名去查找它对应的inode号码;通过inode号码,获取inode信息;根据inode信息,看该用户是否具有访问这个文件的权限;如果有,就指向相对应的数据block,并读取数据。
2、 查看文件名对应的 inode 号码
ls -i 文件名
stat 文件名
硬盘分区后的结构
文件名——>目录项——>目录块
元信息——>inode——>inode表区块
数据——>block——>block数据区
访问文件的过程
用户访问文件——系统查找文件对应的inode——判断用户是否具备访问权限——【是(指向对应的数据block)、否(返回Permission denied)】
3、inode大小
1、inode会消耗硬盘空间
每个inode的大小
一般是128字节或者256字节
2、格式化文件系统时确定inode的总数
3、查看每个硬盘分区的inode总数和已经使用的数量
df -i
4、inode的特殊作用
由于inode号码与文件名分离,导致Linux系统具备以下几种特有的现象:
1)、文件名包含特殊字符,可能无法正常删除。这时直接删除inode,能够起到删除文件的作用;
2)、移动文件或重命名文件,只是改变文件名,不影响inode号码;
3)、打开一个文件以后,系统就以inode号码来识别这个文件,不再考虑文件名。
4)、文件数据被修改保存后,会生成一个新的inode号码。
通过inode 删除文件命令
find ./ -inum xxxx -exec rm -i {}\;
find ./ -inum xxxx-delete
二、inode节点耗尽故障处理
使用fdisk创建分区/dev/sdb1,分区大小30M就可以了,相关命令如下
fdisk /dev/sdb #创建分区
mkfs.ext4 /dev/sdb1 #将创建好的分区格式化成ext4类型
mkdir /test #创建test目录
mount /dev/sdb1 /test #将分区挂载到test目录上
df -i #查看有多少个节点号可使用
模拟inode节点号耗尽的故障,这里通过写个基本的shell脚本来实现
for ((i=1;i<=7680;i++));do touch /test/file$i;done
这里是个基本的for循环命令,括号里的i代表变量值,i<=7680代表i的值最大为7680,每次循环i就+1;do touch /test/file$i代表是调用这个i变量值执行在test目录下创建file文件,done就是结束的意思
或者touch {1…7680}.txt——这里的…代表是连续的数字
df -i #查看还剩多少节点号
df -Th #查看还剩多少容量
删除文件即可恢复
rm -rf /test/* #删除test目录下的所有文件
df -i #查看还有多少节点号
df -Th #查看使用多少容量
三、如何恢复EXT类型文件
extundelete是一个开源的Linux数据恢复工具,支持ext3、ext4文件系统。(ext4只能在centos6版本恢复)
使用fdisk创建分区/dev/sdb1,格式化ext3文件系统
fdisk /dev/sdb
mkfs.ext3 /dev/sdb1
mkdir /test
mount /dev/sdb1 /test
df -Th
安装依赖包
yum -y install e2fsprogs-devel e2fsprogs-libs
安装extundelete
cd /test
wget http://nchc.dl.sourceforge.net/project/extundelete/extundelete/0.2.4/extundelete-0.2.4.tar.bz2
tar jxvf extundelete-0.2.4.tar.bz2
cd extundelete-0.2.4
./configure --prefix=/usr/local/extundelete
make && make install
ln -s /usr/local/extundelete/bin/* /usr/bin
模拟删除并执行恢复操作
cd /test
echo 1>a
echo 1>b
echo 1>c
echo 1>d
ls
extundelete /dev/sdb1 --inode 2————查看/dev/sdb1下有哪些文件,i节点是从2开始,2代表该文件系统最开始的目录
rm -rf a b #删除a和b
extundelete /dev/sdb1 --inode 2
cd ~
umount /test
extundelete /dev/sdb1 --restore-all——————恢复/dev/sdb1文件系统下的所有内容
在当前的目录下会出现一个RECOVERED_FILES目录,里面保存了已经恢复的文件
ls RECOVERED_FILES
四、xfs类型文件备份和恢复
CentOS 7系统默认采用xfs类型的文件,xfs类型的文件可以使用xfsdump与xfsrestore工具进行备份恢复
xfsdump的备份级别有两种:0表示完全备份;1-9表示增量备份。xfsdump的备份级别默认为0
xfsdump命令格式:xfsdump -f 备份存放位置,要备份的路径或设备文件
常用选项:
-f:指定备份文件目录
-L:指定标签session label
-M:指定设备标签 media label
-s:备份单个文件,-s后面不能直接跟路径
使用限制:
只能备份已挂载的文件系统
必须使用root的权限才能操作
只能备份XFS文件系统
备份后的数据只能让xfsrestore解析
不能备份两个具有相同的UUID文件系统(可以使用blkid命令查看)
操作步骤:
使用fdisk创建分区/dev/sdb1,格式化xfs文件系统
fdisk /dev/sdb
mkfs.xfs /dev/sdb1
mkdir /data
mount /dev/sdb1 /data
cd /data
cp /etc/passwd ./
mkdir test
touch test/a
使用xfsdump命令备份整个分区
rpm -qa | grep xfsdump
yum -y install xfsdump
xfsdump -f /opt/dump_sdb1 /dev/sdb1 [-L dump_sdb1 -M sdb1]
模拟数据丢失并使用xfsrestore命令恢复文件
cd /data
rm -rf ./*
ls
xfsrestore -f /opt/dump_sdb1 /data
五、日志
1、日志的作用
用来记录系统、程序运行中发生的各种事件
通过阅读日志,有利于判断和解决系统的故障
2、日志文件的分类
1)内核及系统日志
①由系统服务 rsyslog 统一进行管理,日志格式基本相似
软件包:rsyslog-7.4.7-16.el7.x86_64
主要程序:/sbin/rsyslogd
配置文件:/etc/rsyslog.conf
②主配置文件 /etc/rsyslog.conf
2)用户日志
记录系统用户登录及退出系统的相关信息
3)程序日志
由各种应用程序独立管理的日志文件,记录格式不统一
3、日志保存位于/var/log目录下
4、常见的一些日志类型
内核及公共消息日志
/var/log/messages:记录Linux内核消息及各种应用程序的公共日志信息,包括启动、IO错误、网络错误、程序故障等等,对于未使用独立日志文件的应用程序或服务,一般都可以从这个日志中获得相关的记录信息
计划任务日志
/var/log/cron:记录crond计划任务产生的事件信息
系统引导日志
/var/log/dmesg:记录Linux系统在引导过程中的各种事件
邮件系统日志
/var/log/maillog:记录进入或发出系统的电子邮件活动
用户登录日志
var/log/secure:记录用户认证的相关安全事件信息
/var/log/lastlong:记录每个用户最近的登录事件,用二进制格式表示
/var/log/wtmp:记录每个用户登录、注销及系统启动和停机事件,用二进制格式表示
/var/log/btmp:记录失败的、错误的登录尝试及验证事件,用二进制格式表示
5、查看rsyslog.conf配置文件
vim /etc/rsyslog.conf #查看rsyslog.conf配置文件
*.info————表示info等级及以上的所有等级的信息都写到对于的日志文件里
mail.none——表示某事件的信息不写到日志文件里(这里的例子是邮件)
Linux系统内核日志消息的优先级别(数字等级越小,优先级越高,消息越重要)
0—— EMERG(紧急):会导致主机系统不可用的情况
1——ALERT(警告):必须马上采取措施解决的问题
2——CRIT(严重):比较严重的情况
3——ERR(错误):运行出现错误
4——WARNING(提醒):可能影响系统功能,需要提醒用户的重要事件
5——NOTICE(注意):可能影响系统功能,但是需要注意的事件
6——INFO(信息):一般信息
7——DEBUG(调试):程序或系统调试信息等
分析工具
users、who、w、last、lastb
last命令用于查询成功登录到系统的用户记录
lastb命令用于查询登录失败的用户记录
6、日志的一般格式
时间标签 主机名 子系统名:消息字段
7、由相应的应用程序独立进行管理
Web服务:—/var/log/httpd
access_log————记录客户访问事件
error_log————记录错误事件
代理服务:/var/log/squid
access.log、cache.log
分析工具有哪些?
文本查看、grep过滤检索、Webmin管理套件中查看
awk、sed等文本过滤、格式化编辑工具
Webalizer、Awstats等专用日志分析工具
8、日志管理
1)及时做好备份和归档
2)延长日志保存期限
3)控制日志访问权限
日志中可能会包含各类敏感信息,如账户、口令等
4)集中管理日志
将服务器的日志文件发到统一的日志文件服务器
便于日志信息的统一收集、整理和分析
杜绝日志信息的意外丢失、恶意篡改或删除