文件和文件夹的个数是否对磁盘的IO有影响?

转自:https://segmentfault.com/q/1010000000644754https://www.ruanyifeng.com/blog/2011/12/inode.html

文件的个数、文件夹的个数、文件夹的层级数是否对磁盘的IO有影响

要想了解问题的本质,需要知道一个文件和一个文件夹(以下都称为目录)在Linux下面是怎么表示的。

 我们知道目前硬盘可以分为单碟盘和多碟盘,单碟盘只有一个盘片,而多碟盘则有多个碟片,每个碟片的正反两面都可以存储数据,而每个碟面则需要一个读写磁头。但是,对一个磁盘来说,在同一个时刻,只能有一个磁头来读写磁盘,而不管盘体有几个碟片,因此,增加碟片并不能增加磁盘的并发IO能力,只能增加磁盘的存储容量。(https://tech.meituan.com/2017/05/19/about-desk-io.html

文件系统是个很大的范畴,这里简要说以下几点:

0. 文件是什么
1. 文件名有什么用
2. 怎样根据文件名找到文件
3. 目录是怎样索引的

针对以上几点做出解释

0. 文件是什么

文件其实是一种对磁盘中存储的一堆零散的数据的一种描述.
在Linux上,一个文件由一个inode 表示.inode在系统管理员看来是每一个文件的唯一标识.
在系统里面,inode是一个结构,存储了关于这个文件的大部分信息。

我们创建一个文件然后看看文件都有哪些信息:$>stat 命令

zb@ubuntu:/tmp$ touch a
zb@ubuntu:/tmp$ stat a
File: `a'
Size: 0             Blocks: 0          IO Block: 4096   regular empty file
Device: 801h/2049d  Inode: 786623      Links: 1
Access: (0664/-rw-rw-r--)  Uid: ( 1000/      zb)   Gid: ( 1000/      zb)
Access: 2014-08-21 23:07:23.311074036 -0700
Modify: 2014-08-21 23:07:23.311074036 -0700
Change: 2014-08-21 23:07:23.311074036 -0700
Birth: -

一、inode是什么?

理解inode,要从文件储存说起。

文件储存在硬盘上,硬盘的最小存储单位叫做"扇区"(Sector)。每个扇区储存512字节(相当于0.5KB)。

操作系统读取硬盘的时候,不会一个个扇区地读取,这样效率太低,而是一次性连续读取多个扇区,即一次性读取一个"块"(block)。这种由多个扇区组成的"块",是文件存取的最小单位。"块"的大小,最常见的是4KB,即连续八个 sector组成一个 block。

文件数据都储存在"块"中,那么很显然,我们还必须找到一个地方储存文件的元信息,比如文件的创建者、文件的创建日期、文件的大小等等。这种储存文件元信息的区域就叫做inode,中文译名为"索引节点"。

每一个文件都有对应的inode,里面包含了与该文件有关的一些信息。

Inode号就是这个文件的唯一标识,可以看做是数据库中的主键.
一个inode 一般占了128B或者是256B,是的,有可能比文件本身还大.
inode中存储了一个文件的以下信息:

   * 文件的字节数

  * 文件拥有者的User ID

  * 文件的Group ID

  * 文件的读、写、执行权限

  * 文件的时间戳,共有三个:ctime指inode上一次变动的时间,mtime指文件内容上一次变动的时间,atime指文件上一次打开的时间。

  * 链接数,即有多少文件名指向这个inode

  * 文件数据block的位置

inode号在系统中是会用完的,查看系统的inode整体信息可以用命令 (LZ问题:文件的个数是否会影响,答案是的)

inode也会消耗硬盘空间,所以硬盘格式化的时候,操作系统自动将硬盘分成两个区域。一个是数据区,存放文件数据;另一个是inode区(inode table),存放inode所包含的信息。

每个inode节点的大小,一般是128字节或256字节。inode节点的总数,在格式化时就给定,一般是每1KB或每2KB就设置一个inode。假定在一块1GB的硬盘中,每个inode节点的大小为128字节,每1KB就设置一个inode,那么inode table的大小就会达到128MB,占整块硬盘的12.8%。

$>df -i

zb@ubuntu:/tmp$ df -i
Filesystem      Inodes  IUsed   IFree IUse% Mounted on
/dev/sda1      1245184 163895 1081289   14% /
udev            123823    484  123339    1% /dev
tmpfs           126215    403  125812    1% /run
none            126215      5  126210    1% /run/lock
none            126215      4  126211    1% /run/shm

如果你的系统中零散的小文件很多,是会浪费掉很多的inode的.

有可能导致的情况就是磁盘任然有空间但是创建文件缺失败了 (LZ问题:文件的个数是否会影响,答案是的)


1. 文件名有什么用

文件名的作用在于找到inode

文件名不由inode保存,实际上系统是不关心文件名的,对于系统中任何的操作,大部分情况下你都是通过文件名来做的,
但系统最终都要通过找到文件对应的inode来操作文件,由inode结构中 *i_op指向的接口来操作.

2. 怎样根据文件名找到文件

目录也是文件

要想明白这一点,就需要知道在内核中,目录也是一个文件,也有对应的inode.
只不过inode中存储文件实际内容的不是文件内容而是一个 dentry(dir entry)结构, 可以看做一个对文件的描述的内存结构

3. 目录是怎样索引的

把inode看做指针就明白了

/data/shells/text.txt中,/data 既是一个文件也是一个目录

找到根目录/ 的dentry中的inode 找到 data 的 dentry,根据'data' dentry中的inode找到'shells' dentry和inode.
然后递归的查找下去,最终找到test.txt的inode.
系统是知道 / 的dentry是在哪里的.
文件名就存在于dentry中,路径中的每一级的路径名也算做是其文件名
在dentry结构中有一个指向父节点的指针,也就是 '../',值得一提的是 '..'是指向上层目录的一个硬链接

回答楼主的答案:

文件的个数、文件夹的个数、文件夹的层级数是否对磁盘的IO有影响?

文件的个数、文件夹的个数 是会影响到对于找到文件时候的IO的,要知道有时候目录结构也是保存在磁盘的.
但是在找到了文件后,对磁盘IO影响就不大了。
文件夹的层级数 会对索引造成更多的操作,这是肯定的.和上一个问题答案一样.
大概的阈值是多少? 这个就是用 $> df -i 看看你的 Inodes IUsed IFree三个值了

六、硬链接

一般情况下,文件名和inode号码是"一一对应"关系,每个inode号码对应一个文件名。但是,Unix/Linux系统允许,多个文件名指向同一个inode号码。

这意味着,可以用不同的文件名访问同样的内容;对文件内容进行修改,会影响到所有文件名;但是,删除一个文件名,不影响另一个文件名的访问。这种情况就被称为"硬链接"(hard link)。

ln命令可以创建硬链接:

  ln 源文件 目标文件

运行上面这条命令以后,源文件与目标文件的inode号码相同,都指向同一个inode。inode信息中有一项叫做"链接数",记录指向该inode的文件名总数,这时就会增加1。

反过来,删除一个文件名,就会使得inode节点中的"链接数"减1。当这个值减到0,表明没有文件名指向这个inode,系统就会回收这个inode号码,以及其所对应block区域。

这里顺便说一下目录文件的"链接数"。创建目录时,默认会生成两个目录项:"."和".."。前者的inode号码就是当前目录的inode号码,等同于当前目录的"硬链接";后者的inode号码就是当前目录的父目录的inode号码,等同于父目录的"硬链接"。所以,任何一个目录的"硬链接"总数,总是等于2加上它的子目录总数(含隐藏目录)。

七、软链接

除了硬链接以外,还有一种特殊情况。

文件A和文件B的inode号码虽然不一样,但是文件A的内容是文件B的路径。读取文件A时,系统会自动将访问者导向文件B。因此,无论打开哪一个文件,最终读取的都是文件B。这时,文件A就称为文件B的"软链接"(soft link)或者"符号链接(symbolic link)。

这意味着,文件A依赖于文件B而存在,如果删除了文件B,打开文件A就会报错:"No such file or directory"。这是软链接与硬链接最大的不同:文件A指向文件B的文件名,而不是文件B的inode号码,文件B的inode"链接数"不会因此发生变化。

ln -s命令可以创建软链接。

  ln -s 源文文件或目录 目标文件或目录

八、inode的特殊作用

由于inode号码与文件名分离,这种机制导致了一些Unix/Linux系统特有的现象。

  1. 有时,文件名包含特殊字符,无法正常删除。这时,直接删除inode节点,就能起到删除文件的作用。

  2. 移动文件或重命名文件,只是改变文件名,不影响inode号码。

  3. 打开一个文件以后,系统就以inode号码来识别这个文件,不再考虑文件名。因此,通常来说,系统无法从inode号码得知文件名。

第3点使得软件更新变得简单,可以在不关闭软件的情况下进行更新,不需要重启。因为系统通过inode号码,识别运行中的文件,不通过文件名。更新的时候,新版文件以同样的文件名,生成一个新的inode,不会影响到运行中的文件。等到下一次运行这个软件的时候,文件名就自动指向新版文件,旧版文件的inode则被回收。

  • 0
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值