文件系统深度理解之inode解读

一、问题：
　　在一台Linux服务器的/data分区内创建文件时，系统提示磁盘空间不足，用df -h命令查看了一下磁盘使用情况，发现/data分区只使用了66%，还有12G的剩余空间。
　　
二、分析问题：
　　用df -i查看了一下/data分区的索引节点(inode)，发现已经用满(IUsed=100%)，导致系统无法创建新目录和文件。inode译成中文就是索引节点，每个存储设备（例如硬盘）或存储设备的分区被格式化为文件系统后，应该有两部份，一部份是inode，另一部份是Block，Block是用来存储数据用的。而inode呢，就是用来存储这些数据的信息，这些信息包括文件大小、属主、归属的用户组、读写权限等。inode为每个文件进行信息索引，所以就有了inode的数值。操作系统根据指令，能通过inode值最快的找到相对应的文件。
　　而这台服务器的Block虽然还有剩余，但inode已经用满，因此在创建新目录或文件时，系统提示磁盘空间不足。
　　
　

三、原因：
　　/data/cache目录中存在数量非常多的小字节缓存文件，占用的Block不多，但是占用了大量的inode。
　　
四、解决方案：
　　1、删除/data/cache目录中的部分文件，释放出/data分区的一部分inode。
　　2、用软连接将空闲分区/opt中的newcache目录连接到/data/cache，使用/opt分区的inode来缓解/data分区inode不足的问题：
　　ln -s /opt/newcache /data/cache
　　3、增加空间

一、inode
硬盘的最小存储单位叫做”扇区”（Sector）。每个扇区储存512字节（相当于0.5KB）。操作系统读取硬盘的时候，不会一个个扇区地读取，这样效率太低，而是一次性读取一个”块”（block），每个”块”（block）由八个连续的sector组成。这种由多个扇区组成的”块”，是文件存取的最小单位。”块”的大小，最常见的是4KB，文件数据都储存在”块”中，那么还必须找到一个地方储存文件的元信息，比如文件的创建者、文件的创建日期、文件的大小等等。这种储存文件元信息的区域就叫做inode，中文译名为”索引节点”。每一个文件都有对应的inode，里面包含了与该文件有关的一些信息。

二、inode的内容
inode包含文件的元信息，具体有以下内容：
　　* 文件的字节数
　　* 文件拥有者的User ID
　　* 文件的Group ID
　　* 文件的读、写、执行权限
　　* 文件的时间戳，共有三个：ctime指inode上一次变动的时间，mtime指文件内容上一次变动的时间，atime指文件上一次打开的时间。
　　* 链接数，即有多少文件名指向这个inode
　　* 文件数据block的位置
可以用stat命令查看某个文件的inode信息：

[root@Zabbix_server home]# stat zabbix/
  File: `zabbix/'
  Size: 4096       Blocks: 8          IO Block: 4096   directory
Device: 803h/2051d Inode: 130647      Links: 4
Access: (0700/drwx------)  Uid: (  500/  zabbix)   Gid: (  500/  zabbix)
Access: 2014-08-12 10:46:02.810999643 +0800
Modify: 2014-07-23 07:19:01.146989703 +0800
Change: 2014-07-23 07:19:01.146989703 +0800

除了文件名以外的所有文件信息，都存在inode之中。（为什么没有文件名，继续看下文）

三、inode的大小
概念：
inode也会消耗硬盘空间，所以硬盘格式化的时候，操作系统自动将硬盘分成两个区域。一个是数据区，存放文件数据；另一个是inode区（inode table），存放inode所包含的信息。
每个inode节点的大小，一般是128字节或256字节。inode节点的总数，在格式化时就给定，一般是每1KB或每2KB就设置一个inode。假定在一块1GB的硬盘中，每个inode节点的大小为128字节，每1KB就设置一个inode，那么inode table的大小就会达到128MB，占整块硬盘的12.8%。
使用df -i可以查看每个硬盘分区的inode总数和已经使用的数量

[root@Zabbix_server ~]# df -i
Filesystem      Inodes  IUsed   IFree IUse% Mounted on
/dev/sda3      1166880 103467 1063413    9% /
tmpfs           128806      4  128802    1% /dev/shm
/dev/sda1        51200     38   51162    1% /boot
/dev/sr0             0      0       0     - /media/RHEL_6.5 i386 Disc 1
[root@Zabbix_server ~]#

查看每个inod

[root@Zabbix_server ~]# dumpe2fs /dev/sda3 | grep -i "inode size"
dumpe2fs 1.41.12 (17-May-2010)
Inode size:              256

默认未加入PATH中，需要手动加入

[root@Zabbix_server ~]# export PATH=/sbin/dumpe2fs:$PATH
[root@Zabbix_server ~]# echo $PATH
/sbin/dumpe2fs:/home/script:/usr/lib/qt-3.3/bin:/usr/local/sbin:/usr/local/bin:/bin:/usr/sbin:/usr/bin:/home:/root/bin
[root@Zabbix_server ~]#

由于每个文件都必须有一个inode，因此有可能发生inode已经用光，但是硬盘还未存满的情况。这时，就无法在硬盘上创建新文件，出现上面的实例情形。
inode大小调整：
一般来讲，一个文件将占用1～2个inode值。如果磁盘中主要为小文件，可以适当的增加inode值。 如果大文件居多，可以适量减少inode空间，可以使用 mkfs来调整inode数值。
具体方法&案例

[root@localhost ~]# df -i /dev/sdb5
Filesystem     Inodes IUsed  IFree IUse% Mounted on
/dev/sdb5      327680    11 327669    1% /data
[root@localhost ~]#

将sdb5的inods值增加到350000（当前为327680），我的系统是rhel6.5，调整inode会格式化整个分区，分区将被删除，修改inode之后，uuid会被修改。因此，/etc/fstab文件也需要作相应调整，最好先将该文件cp备份一下

[root@localhost ~]# umount /data/    
[root@localhost ~]# mkfs.ext4 -N 350000 /dev/sdb5   ;-N 指定要建立的inode数目。
mke2fs 1.41.12 (17-May-2010)
Filesystem label=
OS type: Linux
Block size=4096 (log=2)
Fragment size=4096 (log=2)
Stride=0 blocks, Stripe width=0 blocks
350080 inodes, 1309281 blocks
65464 blocks (5.00%) reserved for the super user
First data block=0
Maximum filesystem blocks=1342177280
40 block groups
32768 blocks per group, 32768 fragments per group
8752 inodes per group
Superblock backups stored on blocks: 
    32768, 98304, 163840, 229376, 294912, 819200, 884736

Writing inode tables: done                            
Creating journal (32768 blocks): done
Writing superblocks and filesystem accounting information: done

This filesystem will be automatically checked every 27 mounts or
180 days, whichever comes first.  Use tune2fs -c or -i to override.
[root@localhost ~]# tune2fs -j /dev/sdb5  ;tune2fs用来调整和查看ext2/ext3/ext4）文件系统的文件系统参数,-j 将ext2文件系统转换为ext4类型的文件系统

tune2fs 1.41.12 (17-May-2010)
The filesystem already has a journal.
[root@localhost ~]# vim /etc/fstab 
#UUID=da86355c-7184-4c3a-8b3e-59429a9087eb /data ext4 defaults 0 0  ;开始的UUID
UUID=a03a11a1-bac2-4cf4-ac97-b710f78c0a84 /data ext4 defaults 0 0
[root@localhost ~]# mount -a
[root@localhost ~]# df -i /dev/sdb5
Filesystem     Inodes IUsed  IFree IUse% Mounted on
/dev/sdb5      350080    11 350069    1% /data
[root@localhost ~]#

四、inode号码
每个inode都有一个号码，Unix/Linux系统内部不使用文件名，而使用inode号码来识别文件。对于系统来说，文件名只是inode号码便于识别的别称或者绰号。表面上，用户通过文件名，打开文件。实际上，系统内部这个过程分成三步：首先，系统找到这个文件名对应的inode号码；其次，通过inode号码，获取inode信息；最后，根据inode信息，找到文件数据所在的block，读出数据。
使用ls -i命令，可以看到文件名对应的inode号码：

[root@Zabbix_server zabbix]# ls -i indoe.txt 
130698 indoe.txt
[root@Zabbix_server zabbix]#

五、目录文件
Unix/Linux系统中，目录（directory）也是一种文件。打开目录，实际上就是打开目录文件。
目录文件的结构非常简单，就是一系列目录项（dirent）的列表。每个目录项，由两部分组成：所包含文件的文件名，以及该文件名对应的inode号码。
ls命令只列出目录文件中的所有文件名，ls -i命令列出整个目录文件，即文件名和inode号码：

[root@Zabbix_server home]# ls ./zabbix/
indoe.txt
[root@Zabbix_server home]# ls ./zabbix/ -i
130698 indoe.txt
[root@Zabbix_server home]#

如果要查看文件的详细信息，就必须根据inode号码，访问inode节点，读取信息。ls -l命令列出文件的详细信息。

[root@Zabbix_server home]# ll ./zabbix/
total 0
-rw-r--r-- 1 root root 0 Aug 13 15:02 indoe.txt
[root@Zabbix_server home]#

综上，目录文件的读权限（r）和写权限（w），都是针对目录文件本身。由于目录文件内只有文件名和inode号码，所以如果只有读权限，只能获取文件名，无法获取其他信息，因为其他信息都储存在inode节点中，而读取inode节点内的信息需要目录文件的执行权限（x）。

六、硬链接
一般情况下，文件名和inode号码是”一一对应”关系，每个inode号码对应一个文件名。但是，Unix/Linux系统允许，多个文件名指向同一个inode号码。
这意味着，可以用不同的文件名访问同样的内容；对文件内容进行修改，会影响到所有文件名；但是，删除一个文件名，不影响另一个文件名的访问。这种情况就被称为”硬链接”（hard link）。
ln命令可以创建硬链接：ln 源文件 目标文件

[root@Zabbix_server ~]# cat /home/zabbix/indoe.txt 
hard link
[root@Zabbix_server ~]# ll -i !$
ll -i /home/zabbix/indoe.txt
130698 -rw-r--r-- 1 root root 10 Aug 13 15:21 /home/zabbix/indoe.txt
[root@Zabbix_server ~]# ln !$ indoehl.txt
ln /home/zabbix/indoe.txt indoehl.txt
[root@Zabbix_server ~]# cat indoehl.txt 
hard link
[root@Zabbix_server ~]# ll -i indoehl.txt 
130698 -rw-r--r-- 2 root root 10 Aug 13 15:21 indoehl.txt
[root@Zabbix_server ~]# ll /home/zabbix/indoe.txt 
-rw-r--r-- 2 root root 10 Aug 13 15:21 /home/zabbix/indoe.txt
[root@Zabbix_server ~]# ll -i /home/zabbix/indoe.txt 
130698 -rw-r--r-- 2 root root 10 Aug 13 15:21 /home/zabbix/indoe.txt
[root@Zabbix_server ~]# rm -f indoehl.txt 
[root@Zabbix_server ~]# ll -i /home/zabbix/indoe.txt 
130698 -rw-r--r-- 1 root root 10 Aug 13 15:21 /home/zabbix/indoe.txt
[root@Zabbix_server ~]#

硬链接源文件与目标文件的inode号码相同，都指向同一个inode。inode信息中有一项叫做”链接数”，记录指向该inode的文件名总数，这时就会增加1。
反过来，删除一个文件名，就会使得inode节点中的”链接数”减1。当这个值减到0，表明没有文件名指向这个inode，系统就会回收这个inode号码，以及其所对应block区域。
创建目录时，默认会生成两个目录项：”.”和”..”。前者的inode号码就是当前目录的inode号码，等同于当前目录的”硬链接”；后者的inode号码就是当前目录的父目录的inode号码，等同于父目录的”硬链接”。所以，任何一个目录的”硬链接”总数，总是等于2加上它的子目录总数（含隐藏目录）。

七、软链接
文件A和文件B的inode号码虽然不一样，但是文件A的内容是文件B的路径。读取文件A时，系统会自动将访问者导向文件B。因此，无论打开哪一个文件，最终读取的都是文件B。这时，文件A就称为文件B的”软链接”（soft link）或者”符号链接（symbolic link）。
这意味着，文件A依赖于文件B而存在，如果删除了文件B，打开文件A就会报错：”No such file or directory”。这是软链接与硬链接最大的不同：文件A指向文件B的文件名，而不是文件B的inode号码，文件B的inode”链接数”不会因此发生变化。
ln -s命令可以创建软链接：ln -s 源文文件或目录 目标文件或目录

[root@Zabbix_server ~]# cat /home/zabbix/indoe.txt 
soft link
[root@Zabbix_server ~]# ll -i !$
ll -i /home/zabbix/indoe.txt
130698 -rw-r--r-- 1 root root 10 Aug 13 15:35 /home/zabbix/indoe.txt
[root@Zabbix_server ~]# ln -s !$ indoesl.txt
ln -s /home/zabbix/indoe.txt indoesl.txt
[root@Zabbix_server ~]# ll -i /home/zabbix/indoe.txt
130698 -rw-r--r-- 1 root root 10 Aug 13 15:35 /home/zabbix/indoe.txt
[root@Zabbix_server ~]# ll -i indoesl.txt 
922388 lrwxrwxrwx 1 root root 22 Aug 13 15:36 indoesl.txt -> /home/zabbix/indoe.txt
[root@Zabbix_server ~]# cat indoesl.txt 
soft link
[root@Zabbix_server ~]# rm -f /home/zabbix/indoe.txt 
[root@Zabbix_server ~]# cat indoesl.txt 
cat: indoesl.txt: No such file or directory
[root@Zabbix_server ~]#

八、inode的特殊作用
由于inode号码与文件名分离，这种机制导致了一些Unix/Linux系统特有的现象。
　　1. 有时，文件名包含特殊字符，无法正常删除。这时，直接删除inode节点，就能起到删除文件的作用。
　　2. 移动文件或重命名文件，只是改变文件名，不影响inode号码。
　　3. 打开一个文件以后，系统就以inode号码来识别这个文件，不再考虑文件名。因此，通常来说，系统无法从inode号码得知文件名。
扩展：
一般inode使用完是系统中创建了大量的小文件导致，例如日志文件，只是后我们可以到日志文件目录下去删除行不用的日志文件
如果启动了crond作业，系统中的邮件服务有没开启，由于linux在执行cron时，会将cron执行脚本中的output和warning信息，都会以邮件的形式发送Cron所有者， 而由于客户环境中的sendmail和postfix没有正常运行，导致邮件发送不成功，全部小文件堆积在了/var/spool/postfix/maildrop目录下面，如果sendmail或者postfix正常运行，则会在/var/mail目录下产生大量的邮件，也会堆积。在cron的第一行加入 MAILTO=”“便可，这样执行当前用户的Cron时，不会发送邮件。

[root@localhost maildrop]# ll|wc -l
554744
[root@localhost maildrop]# rm -rf * 
[root@localhost maildrop]# ls|xargs rm -rf
[root@localhost maildrop]# vim /etc/crontab 

SHELL=/bin/bash
PATH=/sbin:/bin:/usr/sbin:/usr/bin
#MAILTO=root
MAILTO=" "
HOME=/
[root@localhost maildrop]# service crond restart

如果无法确定位置可以通过逐层目录查找来定位

[root@localhost backup]# for i in /*; do echo -n -e "$i\t"; find $i | wc -l; done