转自:https://segmentfault.com/q/1010000000644754,https://www.ruanyifeng.com/blog/2011/12/inode.html
文件的个数、文件夹的个数、文件夹的层级数
是否对磁盘的IO有影响
要想了解问题的本质,需要知道一个文件和一个文件夹(以下都称为目录)在Linux下面是怎么表示的。
我们知道目前硬盘可以分为单碟盘和多碟盘,单碟盘只有一个盘片,而多碟盘则有多个碟片,每个碟片的正反两面都可以存储数据,而每个碟面则需要一个读写磁头。但是,对一个磁盘来说,在同一个时刻,只能有一个磁头来读写磁盘,而不管盘体有几个碟片,因此,增加碟片并不能增加磁盘的并发IO能力,只能增加磁盘的存储容量。(https://tech.meituan.com/2017/05/19/about-desk-io.html)
文件系统是个很大的范畴,这里简要说以下几点:
0. 文件是什么
1. 文件名有什么用
2. 怎样根据文件名找到文件
3. 目录是怎样索引的
针对以上几点做出解释
0. 文件是什么
文件其实是一种对磁盘中存储的一堆零散的数据的一种描述.
在Linux上,一个文件由一个inode 表示.inode在系统管理员看来是每一个文件的唯一标识.
在系统里面,inode是一个结构,存储了关于这个文件的大部分信息。
我们创建一个文件然后看看文件都有哪些信息:$>stat
命令
zb@ubuntu:/tmp$ touch a
zb@ubuntu:/tmp$ stat a
File: `a'
Size: 0 Blocks: 0 IO Block: 4096 regular empty file
Device: 801h/2049d Inode: 786623 Links: 1
Access: (0664/-rw-rw-r--) Uid: ( 1000/ zb) Gid: ( 1000/ zb)
Access: 2014-08-21 23:07:23.311074036 -0700
Modify: 2014-08-21 23:07:23.311074036 -0700
Change: 2014-08-21 23:07:23.311074036 -0700
Birth: -
一、inode是什么?
理解inode,要从文件储存说起。
文件储存在硬盘上,硬盘的最小存储单位叫做"扇区"(Sector)。每个扇区储存512字节(相当于0.5KB)。
操作系统读取硬盘的时候,不会一个个扇区地读取,这样效率太低,而是一次性连续读取多个扇区,即一次性读取一个"块"(block)。这种由多个扇区组成的"块",是文件存取的最小单位。"块"的大小,最常见的是4KB,即连续八个 sector组成一个 block。
文件数据都储存在"块"中,那么很显然,我们还必须找到一个地方储存文件的元信息,比如文件的创建者、文件的创建日期、文件的大小等等。这种储存文件元信息的区域就叫做inode,中文译名为"索引节点"。
每一个文件都有对应的inode,里面包含了与该文件有关的一些信息。
Inode号就是这个文件的唯一标识,可以看做是数据库中的主键.
一个inode 一般占了128B或者是256B,是的,有可能比文件本身还大.
inode中存储了一个文件的以下信息:
* 文件的字节数
* 文件拥有者的User ID
* 文件的Group ID
* 文件的读、写、执行权限
* 文件的时间戳,共有三个:ctime指inode上一次变动的时间,mtime指文件内容上一次变动的时间,atime指文件上一次打开的时间。
* 链接数,即有多少文件名指向这个inode
* 文件数据block的位置
inode号在系统中是会用完的,查看系统的inode整体信息可以用命令
(LZ问题:文件的个数是否会影响,答案是的)
inode也会消耗硬盘空间,所以硬盘格式化的时候,操作系统自动将硬盘分成两个区域。一个是数据区,存放文件数据;另一个是inode区(inode table),存放inode所包含的信息。
每个inode节点的大小,一般是128字节或256字节。inode节点的总数,在格式化时就给定,一般是每1KB或每2KB就设置一个inode。假定在一块1GB的硬盘中,每个inode节点的大小为128字节,每1KB就设置一个inode,那么inode table的大小就会达到128MB,占整块硬盘的12.8%。
$>df -i
zb@ubuntu:/tmp$ df -i
Filesystem Inodes IUsed IFree IUse% Mounted on
/dev/sda1 1245184 163895 1081289 14% /
udev 123823 484 123339 1% /dev
tmpfs 126215 403 125812 1% /run
none 126215 5 126210 1% /run/lock
none 126215 4 126211 1% /run/shm
如果你的系统中零散的小文件很多,是会浪费掉很多的inode的.
有可能导致的情况就是磁盘任然有空间但是创建文件缺失败了
(LZ问题:文件的个数是否会影响,答案是的)
1. 文件名有什么用
文件名的作用在于找到inode
文件名不由inode保存,实际上系统是不关心文件名的,对于系统中任何的操作,大部分情况下你都是通过文件名来做的,
但系统最终都要通过找到文件对应的inode来操作文件,由inode结构中 *i_op指向的接口来操作.
2. 怎样根据文件名找到文件
目录也是文件
要想明白这一点,就需要知道在内核中,目录也是一个文件,也有对应的inode.
只不过inode中存储文件实际内容的不是文件内容而是一个 dentry(dir entry)结构, 可以看做一个对文件的描述的内存结构
3. 目录是怎样索引的
把inode看做指针就明白了
/data/shells/text.txt中,/data 既是一个文件也是一个目录
找到根目录/ 的dentry中的inode 找到 data 的 dentry,根据'data' dentry中的inode找到'shells' dentry和inode.
然后递归的查找下去,最终找到test.txt的inode.
系统是知道 / 的dentry是在哪里的.
文件名就存在于dentry中,路径中的每一级的路径名也算做是其文件名
在dentry结构中有一个指向父节点的指针,也就是 '../',值得一提的是 '..'是指向上层目录的一个硬链接
回答楼主的答案:
文件的个数、文件夹的个数、文件夹的层级数
是否对磁盘的IO有影响?
文件的个数、文件夹的个数 是会影响到对于找到文件时候的IO的,要知道有时候目录结构也是保存在磁盘的.
但是在找到了文件后,对磁盘IO影响就不大了。
文件夹的层级数 会对索引造成更多的操作,这是肯定的.和上一个问题答案一样.
大概的阈值是多少? 这个就是用 $> df -i
看看你的 Inodes IUsed IFree三个值了
六、硬链接
一般情况下,文件名和inode号码是"一一对应"关系,每个inode号码对应一个文件名。但是,Unix/Linux系统允许,多个文件名指向同一个inode号码。
这意味着,可以用不同的文件名访问同样的内容;对文件内容进行修改,会影响到所有文件名;但是,删除一个文件名,不影响另一个文件名的访问。这种情况就被称为"硬链接"(hard link)。
ln命令可以创建硬链接:
ln 源文件 目标文件
运行上面这条命令以后,源文件与目标文件的inode号码相同,都指向同一个inode。inode信息中有一项叫做"链接数",记录指向该inode的文件名总数,这时就会增加1。
反过来,删除一个文件名,就会使得inode节点中的"链接数"减1。当这个值减到0,表明没有文件名指向这个inode,系统就会回收这个inode号码,以及其所对应block区域。
这里顺便说一下目录文件的"链接数"。创建目录时,默认会生成两个目录项:"."和".."。前者的inode号码就是当前目录的inode号码,等同于当前目录的"硬链接";后者的inode号码就是当前目录的父目录的inode号码,等同于父目录的"硬链接"。所以,任何一个目录的"硬链接"总数,总是等于2加上它的子目录总数(含隐藏目录)。
七、软链接
除了硬链接以外,还有一种特殊情况。
文件A和文件B的inode号码虽然不一样,但是文件A的内容是文件B的路径。读取文件A时,系统会自动将访问者导向文件B。因此,无论打开哪一个文件,最终读取的都是文件B。这时,文件A就称为文件B的"软链接"(soft link)或者"符号链接(symbolic link)。
这意味着,文件A依赖于文件B而存在,如果删除了文件B,打开文件A就会报错:"No such file or directory"。这是软链接与硬链接最大的不同:文件A指向文件B的文件名,而不是文件B的inode号码,文件B的inode"链接数"不会因此发生变化。
ln -s命令可以创建软链接。
ln -s 源文文件或目录 目标文件或目录
八、inode的特殊作用
由于inode号码与文件名分离,这种机制导致了一些Unix/Linux系统特有的现象。
1. 有时,文件名包含特殊字符,无法正常删除。这时,直接删除inode节点,就能起到删除文件的作用。
2. 移动文件或重命名文件,只是改变文件名,不影响inode号码。
3. 打开一个文件以后,系统就以inode号码来识别这个文件,不再考虑文件名。因此,通常来说,系统无法从inode号码得知文件名。
第3点使得软件更新变得简单,可以在不关闭软件的情况下进行更新,不需要重启。因为系统通过inode号码,识别运行中的文件,不通过文件名。更新的时候,新版文件以同样的文件名,生成一个新的inode,不会影响到运行中的文件。等到下一次运行这个软件的时候,文件名就自动指向新版文件,旧版文件的inode则被回收。