Linux系统中文件系统与日志分析

目录

前言

一.Linux文件系统

  1.1inode与block概述

   1.2 硬链接和软件

   1.3 恢复误删除的文件（EXT）

  1.4文件备份和恢复（xfs）

二.日志文件 

  2.1日志的功能

  2.2日志文件的分类

  2.3主要日志文件分类

总结

---

前言

  在处理Linux 系统的各种故障时故障低调症状是最易发现的,而导致这一故障的原因才是关键，熟悉系统中的日志文件、了解一般的分析与解决办法，将有助于对故障的“对症下药”，及时解决各种系统问题。

一.Linux文件系统

  1.1inode与block概述

      概述：

      文件数据包括元信息与实际信息；
      文件存储在硬盘上，硬盘最小存储单位是“扇区”，每个扇区存储512字节。
      block：（块）
      连续的八个扇区组成一个block（4k）；
      是文件存取的最小单位。

      一般连续八个扇区组成一个"块”(block)，一个块是4K大小，是文件存取的最小单位。操作系统读取硬盘的时候，是一次性连续读取多个扇区，即一个块一个块的读取的。
      inode：（索引节点）
      中文译名为“索引节点”，也叫i节点；
      用于存储文件元信息      

      文件数据包括实际数据与元信息(类似文件属性)。文件数据存储在“块"中，存储文件元信息(比如文件的创建者、创建日期、文件大小、文件权限等)的区域就叫做inode。 因此，一个文件必须占用一个inode，并且至少占用一个block。inode不包含文件名。文件名是存放在目录当中的。Linux 系统中一切皆文件，因此目录也是一种文件。

      每个inode都有一个号码，操作系统用inode号码来识别不同的文件。Linux系统内部不使用文件名，而使用inode号码来识别文件。对于系统来说，文件名只是inode号码便于识别的别称，文件名和inode号码是一一对应关系，每个inode号码对应一个文件名。

      所以，当用户在Linux系统中试图访问一个文件时，系统会先根据文件名去查找它对应的inode号码:通过inode号码，获取inode信息;根据inode信息，看该用户是否具有访问这个文件的权限;如果有，就指向相对应的数据block，并读取数据。

      查看文件名对应的inode号码有两种方式：

     inode也会消耗硬盘空间，所以格式化的时候，操作系统自动将硬盘分成两个区域。一个是数据区，存放文件数据:另一个是inode区，存放inode所包含的信息。每个inode的大小，一般是128字节或256字节。
      通常情况下不需要关注单个inode的大小，而是需要重点关注inode.总数。inode的总数在格式化时就给定了，执行"df-i"命令即可查看每个硬盘分区对应的的inode总数和已经使用的inode数量。

      由于inode号码与文件名分离，导致Linux系统具备以下几种特有的现象:
1.文件名包含特殊字符，可能无法正常删除。这时直接删除inode，能够起到删除文件的作用;
2.移动文件或重命名文件，只是改变文件名，不影响inode 号码;
3.打开一一个文件以后，系统就以inode 号码来识别这个文件，不再考虑文件名。
4.文件数据被修改保存后，会生成-一个新的inode 号码。

find ./ -inum 52305140 -exec rm -i {} \;
find ./ -inum 50464299 -delete

      Linux系统文件三个主要的时间属性：
ctime(change time)：最后一次改变文件或目录(属性)的时间
atime(access time)：最后一次访问文件或目录的时间
mtime(modify time)：最后一次修改文件或目录(内容)的时间
用户通过文件名打开文件时，系统内部的过程

      系统找到这个文件名对应的inode号码：
通过inode号码， 获取inode信息
根据inode信息，找到文件数据所在的block,读出数据

      访问文件的简单流程：

   1.2 硬链接和软件

• 为文件或目录建立链接文件
• 链接文件的分类和对比

 软硬链接的格式：

   1.3 恢复误删除的文件（EXT）

EXT类型文件恢复
extundelete 是一一个开源的Linux 数据恢复工具，支持ext3、 ext4文件系统。 ( ext4只能在centos6版本恢复)

#使用fdisk创建分区/dev/sdc1， 格式化ext3文件系统
fdisk /dev/sdc
partprobe /dev/sdc
mkfs.ext3 /dev/sdc1
mkdir /test
mount /dev/sdc1/test
df -hT
#安装依赖包
yum -y install e2fsprogs-devel e2fsprogs-libs gcc gcc-c++ 
#编译安装extundelete
cd /test
wget http://nchc.dl.sourceforge.net/project/extundelete/extundelete/0.2.4/extundelete-0.2.4.tar.bz2
tar jxvf extundelete-0.2.4.tar.bz2
cd extundelete-0.2.4/
./configure --prefix=/usr/1ocal/extundelete && make && make install
ln -s /usr/local/extundelete/bin/* /usr/bin/
#模拟删除并执行恢复操作
cd /test
echo a>a
echo a>b
echo a>c
echo a>d
ls
extundelete /dev/sdc1 --inode 2   #查看文件系统/dev/sdc1下存在哪些文件，i节点是从2开始的，2代表该文件系统最开始的目录。


rm -rf a b
extundelete /dev/sdc1 --inode 2
cd ~
umount /test
extundelete /dev/sdc1 --restore-all #恢复/dev/sdc1 文件系统下的所有内容
#在当前目录下会出现一个RECOVERED_FILES/目录，里面保存了已经恢复的文件
ls RECOVERED FILES/

  1.4文件备份和恢复（xfs）

xfs类型文件备份和恢复
CentOs 7系统默认采用xfs类型的文件，xfs类型的文件可使用xfsdump 与xfsrestore 工具进行备份恢复。
xfsdump 的备份级别有两种: 0表示完全备份; 1-9表示增量备份。xfsdump的备份级别默认为0。
xfsdump的命令格式为:
xfsdump |-f 备份存放位置要备份的路径或设备文件
xfsdump命令常用的选项:
-f: 指定备份文件目录
-L: 指定标签session label
-M: 指定设备标签media labe........ 。
-s:备份单个文件，-s后面不能直接跟路径

xfsdump使用限制:
1.只能备份已挂载的文件系统
2.必须使用root的权限才能操作
3.只能备份XFS文件系统
4.备份后的数据只能让xfsrestore解析
5.不能备份两个具有相同UUID的文件系统(可用blkid命令查看)

#使用fdisk创建分区/dev/sdb1，格式化xfs文件系统
fdisk /dev/sdb
partprobe /dev/sdb
mkfs.xfs /dev/sdb1                                     #    mkfs.xfs [-f] /dev/sdb1
mkdir /data
mount /dev/sdb1 /data/
cd /data
cp /etc/passwd ./
mkdir test
touch test/a


#使用xfsdump命令备份整个分区
rpm -qa | grep xfsdump
yum install -y xfsdump
xfsdump -f /opt/dump_sdb1 /dev/sdb1 [-L dump_sdb1 -M sdb1]
xfsdump -f /opt/dump_sdb /dev/sdb1 -L dump_sdb -M sdb1
#模拟数据丢失并使用xfsrestore 命令恢复文件
cd /data/
rm -rf ./*
ls
xfsrestore -f /opt/dump_sdb1 /data/

二.日志文件 

内核及系统日志由系统服务rsyslog 统一管理，主配置文件为/etc/rsyslog.conf
Linux操作系统本身和大部分服务器程序的日志文件都默认放在目录/var/1og/下。

  2.1日志的功能

• 用于记录系统、程序运行中发生的各种事件
• 通过阅读日志，有助于诊断和解决系统故障

  2.2日志文件的分类

1.内核及系统日志

• 由系统服务rsyslog统一进行管理，日志格式基本相似
• 主配置文件/etc/rsyslog.conf

2.用户日志

• 记录系统用户登录及退出系统的相关信息

3.程序日志

• 由各种应用程序独立管理的日志文件，记录格式不统一

  2.3主要日志文件分类

常见的一些日志文件:

#内核及公共消息日志:
/var/log/messages: 记录Linux内核消息及各种应用程序的公共日志信息，包括启动、IO错误、网络错误、程序故障等。
对于未使用独立日志文件的应用程序或服务，一般都可以从该日志文件中获得相关的事件记录信息。
#计划任务日志:
/var/1og/cron: 记录crond计划任务产生的事件信息。
#系统引导日志:
/var/log/dmesg: 记录Linux系统在引导过程中的各种事件信息。
#邮件系统日志:
/var/log/maillog: 记录进入或发出系统的电子邮件活动。

#用户登录日志:
/var/log/secure: 记录用户认证相关的安全事件信息。
/var/log/lastlog: 记录每个用户最近的登录事件。二进制格式
/var/1og/wtmp: 记录每个用户登录、注销及系统启动和停机事件。二进制格式
/var/run/btmp: 记录失败的、错误的登录尝试及验证事件。二进制格式

日志配置文件和日志消息等级：

vim /etc/rsyslog.conf   #查看rsyslog.conf配置文件
*.info;mail.none;authpriv.none;cron.none                  /var/1og/messages

*.info    #表示info等级及以，上的所有等级的信息都写到对应的日志文件里
mail.none #表示某事件的信息不写到日志文件里( 这里比如是邮件)

Linux系统内核日志消息的优先级别(数字等级越小，优先级越高，消息越重要) :
0  EMERG(紧急):会导致主机系统不可用的情况。
1  ALERT(警告):必须马上采取措施解决的问题。
2  CRIT(严重):比较严重的情况。
3  ERR (错误) :运行出现错误。
4  WARNING(提醒):可能影响系统功能，需要提醒用户的重要事件。
5  NOTICE (注意) :不会影响正常功能，但是需要注意的事件。
6  INFO(信息):一般信息。
7  DEBUG(调试):程序或系统调试信息等。 

公共日志/var/log/messages文件的记录格式：

时间标签:消息发出的日期和时间。
主机名:生成消息的计算机的名称。
子系统名称:发出消息的应用程序的名称。
消息:消息的具体内容。
程序自己维护日志记录，httpd 网站服务程序使用两个日志文件:
access_log :  #记录客户访问事件
error_log  #记录错误事件。

详细日志分析命令： 

users：命令只是简单地输出当前登录的用户名称，每个显示的用户名对应一个登录会话。如果一个用户有不止一个登录会话，那他的用户名将显示与其相同的次数
who：命令用于报告当前登录到系统中的每个用户的信息。使用该命令，系统管理员可以查看当前系统存在哪些不合法用户，从而对其进行审计和处理。who 的默认输出包括用户名、终端类型、登录日期及远程主机

w：命令用于显示当前系统中的每个用户及其所运行的进程信息，比 users、who 命令的输出内容要丰富一些

last:命令用于查询成功登录到系统的用户记录，最近的登录情况将显示在最前面。通过last 命令可以及时掌握 Linux 主机的登录情况，若发现未经授权的用户登录过，则表示当前主机可能已被入侵

lastb:命令用于查询登录失败的用户记录，如登录的用户名错误、密码不正确等情况都将记录在案。登录失败的情况属于安全事件，因为这表示可能有人在尝试猜解你的密码。除了使用 lastb 命令查看以外，也可以直接从安全日志文件/var/log/secure 中获得相关信息

程序日志分析：由相应的应用程序独立进行管理

Web服务：/var/log/httpd/
access_log ——记录客户访问事件
error_log ——记录错误事件
代理服务：/var/log/squid/
access.log、cache.log
分析工具
文本查看、grep过来检索、Webmin管理套件中查看
awk、sed等文本过滤、格式化编辑工具
Webalizer、Awstats等专用日志分析工具

日志管理策略：

及时做好备份和归档
延长日志保存期限
控制日志访问权限
日志中可能会包含各类敏感信息，如账户和口令等
集中管理日志
将服务器的日志文件发到统一-的日志文件服务器
便于日志信息的统- -收集、 整理和分析
杜绝日志信息的意外丢失、恶意篡改或删除

有哪些系统常见日志：

/var/log/messages    //系统主日志文件
[root@localhost ~]# cat /var/log/messages | wc -l
3784

tail -f或者tailf或tail -100查看
时间，主机名，服务，具体信息

/var/log/dmesg    //开机后的内核自检信息，dmesg命令看的是一样的

/var/log/secure   //涉及到登陆，验证之类的都会记录比如su

用户日志采用二进制格式，但可以用命令查看，避免认为修改内容，保证日志的有效性
/var/log/wtmp(last)
/var/log/btmp(lastb)
/var/log/lastlog(lastlog)所有账号的登录信息

还有一些服务的日志比如
/var/log/yum.log
/var/log/cron

也并不是所有安装的程序的日志都会在/var/log下，只有rpm包安装的才会，源码装的在自己指定的目录中
例如httpd，源码安装的日志目录在/usr/local/httpd/logs/

总结

  本文主要为深入了解Linux系统的文件系统和日志文件分析，并通过一些例子介绍常见的故障分析，但是由于故障现象的的不确定性，在实际操作前，一定记得数据备份