Linux套接字与虚拟文件系统

引言
   在Unix的世界里，万物皆文件，通过虚拟文件系统VFS，程序可以用标准的Unix系统调用对不同的文件系统，甚至不同介质上的文件系统进行读写操作。对于网络套接字socket也是如此，除了专属的Berkeley Sockets API，还支持一些标准的文件IO系统调用如read(v)、write(v)和close等。那么为什么socket也支持文件IO系统调用呢？在Linux上，这是通过套接口伪文件系统sockfs来实现的，因为sockfs实现了VFS中的4种主要对象：超级块super block、索引节点inode、 目录项对象dentry和文件对象file，当执行文件IO系统调用时，VFS就将请求转发给sockfs，而sockfs就调用特定的协议实现，层次结构如下图：

   本文以linux 2.6.34实现为基础，本篇阐述初始化和 Socket创建两部分的实现，下篇阐述 Socket操作和销毁两部分的实现。

初始化

---

   在内核引导时初始化网络子系统，进而调用sock_init，该函数主要步骤如下：创建inode缓存，注册和装载sockfs，定义在net/socket.c中。

1 static   int  __init  sock_init ( void )
2 {
3    
4    init_inodecache();
5    register_filesystem(&sock_fs_type);
6    sock_mnt = kern_mount(&sock_fs_type);
7    
8}

   
    创建inode缓存
   init_inodecache为socket_alloc对象创建SLAB缓存，名称为sock_inode_cachep，socket_alloc定义在include/net/sock.h中。

1 struct  socket_alloc  {
2    struct socket socket;
3    struct inode vfs_inode;
4} ;

   socket_alloc由socket和inode结构2部分组成，这样就方便了在套接字与inode对象间双向定位。

    注册sockfs
   调用VFS的函数register_filesystem实现注册，sock_fs_type定义在net/socket.c中。

1 static   struct  file_system_type  sock_fs_type   =   {
2    .name =        "sockfs",
3    .get_sb =    sockfs_get_sb,
4    .kill_sb =    kill_anon_super,
5} ;

   sock_fs_type包含了文件系统sockfs的名称、创建和销毁super block的函数，其中sockfs_get_sb实现在net/socket.c中。

1 static   int   sockfs_get_sb ( struct  file_system_type  * fs_type, int  flags,  const   char   * dev_name,  void   * data, struct  vfsmount  * mnt)
2 {
3    return get_sb_pseudo(fs_type, "socket:", &sockfs_ops, SOCKFS_MAGIC, mnt);
4}

   它在kern_mount内被执行，通过调用get_sb_pseudo创建了一个super block(包含一个对应dentry及一个关联inode)：操作对象为sockfs_ops，根目录名称为socket:，对应的根索引节点编号为1。
   sockfs_ops定义在net/socket.c中。

1 static   const   struct  super_operations  sockfs_ops   =   {
2    .alloc_inode =    sock_alloc_inode,
3    .destroy_inode = sock_destroy_inode,
4    .statfs =    simple_statfs,
5} ;

   sock_alloc_inode用于分配inode对象，将在socket创建过程中被调用；sock_destroy_inode用于释放inode对象，将在socket销毁过程中被调用；simple_statfs用于获取sockfs文件系统的状态信息。
   
    装载sockfs
   由kern_mount函数实现装载一个伪文件系统（当然，它没有装载点），返回一个static vfsmount对象sock_mnt。

   经过以上步骤后，所创建的VFS对象关系如下图：

    对于根目录项，不用进行路径转换，因此dentry的d_op为空（未画出）；对于伪文件系统，操作索引对象没有意义，所以inode的i_op为空（未画出）。

Socket创建

---

   系统调用socket、accept和socketpair是用户空间创建socket的几种方法，其核心调用链如下图：

   从上图可知共同的核心就3个过程：先构造inode，再构造对应的file，最后安装file到当前进程中（即关联映射到一个未用的文件描述符）,下面就这3个过程进行详细说明。

    构造inode
   由sock_alloc函数实现，定义在net/socket.c中。

 1 static   struct  socket  * sock_alloc ( void )
 2 {
 3    struct inode *inode;
 4    struct socket *sock;
 5
 6    inode = new_inode(sock_mnt->mnt_sb);
 7        
 8    sock = SOCKET_I(inode);
 9            
10    inode->i_mode = S_IFSOCK | S_IRWXUGO;
11    inode->i_uid = current_fsuid();
12    inode->i_gid = current_fsgid();
13        
14    return sock;
15}

   先调用new_inode创建inode对象，再设置它的类型为S_IFSOCK，由此可知inode对应的文件类型为套接字。new_inode是文件系统的一个接口函数，用于创建一个inode对象，定义在fs/inode.c中，它调用了sockfs超级块的操作对象即sockfs_ops的sock_alloc_inode方法，由于sock_alloc_inode实际创建的是socket_alloc复合对象，因此要使用SOCKET_I宏从inode中取出关联的socket对象用于返回。

   构造file
   有了inode对象后，接下来就要构造对应的file对象了，由sock_alloc_file实现，定义在net/socket.c中。

 1 static   int   sock_alloc_file ( struct  socket  * sock,  struct  file  ** f,  int  flags)
 2 {
 3    struct qstr name = { .name = "" };
 4    struct path path;
 5    struct file *file;
 6    int fd;
 7
 8    fd = get_unused_fd_flags(flags);
 9        
10    path.dentry = d_alloc(sock_mnt->mnt_sb->s_root, &name);
11        
12    path.mnt = mntget(sock_mnt);
13
14    path.dentry->d_op = &sockfs_dentry_operations;
15    d_instantiate(path.dentry, SOCK_INODE(sock));
16    SOCK_INODE(sock)->i_fop = &socket_file_ops;
17
18    file = alloc_file(&path, FMODE_READ | FMODE_WRITE, &socket_file_ops);
19    
20    sock->file = file;
21    file->f_flags = O_RDWR | (flags & O_NONBLOCK);
22    file->f_pos = 0;
23    file->private_data = sock;
24
25    *f = file;
26    return fd;
27}

   sock为 上一过程 返回的套接字对象，该函数主要做了以下几件事：
    1 ）得到空闲的文件描述符fd，实际上就是fd数组的索引，准备作为返回值。
    2 ）先初始化路径path：其目录项的父目录项为超级块对应的根目录，名称为空，操作对象为sockfs_dentry_operations，对应的索引节点对象为sock套接字关联的索引节点对象，即SOCK_INODE(sock)；装载点为sock_mnt。  
   sockfs_dentry_operations定义在net/socket.c中。 

1 static   const   struct  dentry_operations  sockfs_dentry_operations  =   {
2    .d_dname  = sockfs_dname,
3} ;

   sockfs_dname会被d_path调用，用于计算socket对象的目录项名称。
   3 ）设置索引节点的文件操作对象为socket_file_ops，定义在net/socket.c中。

1 static   const   struct  file_operations  socket_file_ops  =   {
2    
3    .aio_read =    sock_aio_read,
4    .aio_write =    sock_aio_write,
5    
6    .open =        sock_no_open,    /* special open code to disallow open via /proc */
7    .release =    sock_close,
8    
9} ;

    4 ）调用alloc_file，以path和socket_file_ops为输入参数，这样返回得到的file便与sock的inode关联上了，并且操作对象为socket_file_ops，最后设置到输出参数f中。
    5 ）建立file与socket的一一映射关系。
   
    安装file
   由fd_install实现，定义在fs/open.c中。

 1 void   fd_install (unsigned  int  fd,  struct  file  * file)
 2 {
 3    struct files_struct *files = current->files;
 4    struct fdtable *fdt;
 5    spin_lock(&files->file_lock);
 6    fdt = files_fdtable(files);
 7    BUG_ON(fdt->fd[fd] != NULL);
 8    rcu_assign_pointer(fdt->fd[fd], file);
 9    spin_unlock(&files->file_lock);
10}

   fd和file分别为上一过程返回的空闲文件描述符和文件对象，使RCU技术来设置file到当前进程的fd数组中。
 
   经过以上过程后，所创建的VFS对象关系图如下

   fd为file*数组的索引而不是成员字段；vfsmount与初始化之VFS对象关系图中的vfsmount是同一个对象，即sock_mnt；对于伪文件系统，操作索引对象没有意义，所以inode的i_op为空（未画出）。

Socket操作

---

   系统调用read(v)、write(v)是用户空间读写socket的一种方法，为了弄清楚它们是怎么通过VFS将请求转发到特定协议的实现，下面以read为例（write同理），并假定文件描述符对应的是IPv4 TCP类型的socket，来跟踪它的执行流程。首先来看下sys_read的代码，定义在fs/read_write.c中。

 1 SYSCALL_DEFINE3( read , unsigned  int , fd,  char  __user  * , buf, size_t, count)
 2 {
 3    struct file *file;
 4    ssize_t ret = -EBADF;
 5    int fput_needed;
 6
 7    file = fget_light(fd, &fput_needed);
 8    if (file) {
 9        loff_t pos = file_pos_read(file);
10        ret = vfs_read(file, buf, count, &pos);
11        
12    }
13
14    return ret;
15}

   先调用fget_light得到fd对应的file，再调用vfs_read。接着跟踪vfs_read的代码，定义在fs/read_write.c中。

 1 ssize_t  vfs_read ( struct  file  * file,  char  __user  * buf, size_t count, loff_t  * pos)
 2 {
 3    ssize_t ret;
 4    
 5    ret = rw_verify_area(READ, file, pos, count);
 6    if (ret >= 0) {
 7        count = ret;
 8        if (file->f_op->read)
 9            ret = file->f_op->read(file, buf, count, pos);
10        else
11            ret = do_sync_read(file, buf, count, pos);
12        
13    }
14
15    return ret;
16}

   在 上篇Socket创建一节 已知，因为sockfs_file_ops没有定义read（即read指针为空），所以这儿实际调用了do_sync_read，继续跟踪它的代码，定义在fs/read_write.c中。

 1 ssize_t  d o_sync_read ( struct  file  * filp,  char  __user  * buf, size_t len, loff_t  * ppos)
 2 {
 3    struct iovec iov = { .iov_base = buf, .iov_len = len };
 4    struct kiocb kiocb;
 5    ssize_t ret;
 6
 7    
 8    for (;;) {
 9        ret = filp->f_op->aio_read(&kiocb, &iov, 1, kiocb.ki_pos);
10        if (ret != -EIOCBRETRY)
11            break;
12        wait_on_retry_sync_kiocb(&kiocb);
13    }
14
15    if (-EIOCBQUEUED == ret)
16        ret = wait_on_sync_kiocb(&kiocb);
17    *ppos = kiocb.ki_pos;
18    return ret;
19}

   显而易见，这儿调用到了f_op->aio_read，使用异步读来实现同步读，若异步读没有完成，则调用wait_on_sync_kiocb等待。由 上篇Socket创建一节 可知sockfs_file_ops的aio_read设为sock_aio_read函数，定义在net/socket.c中，至此sys_read的实现完成了前一半(操作对象是file)而进入后一半（操作对象是socket），即socket层的实现。
   在socket层跟踪sock_aio_read，可以得到最后调用的是sock->ops->recvmsg，由于socket类型为IPv4 TCP，因此sock->ops在socket创建过程中被设为inet_stream_ops，定义在net/ipv4/af_inet.c中。

1 const   struct  proto_ops  inet_stream_ops   =   {
2    .family    =  PF_INET,
3    
4    .release   =  inet_release,
5    
6    .recvmsg  =  sock_common_recvmsg,
7    
8} ;

   从上可知recvmsg设为sock_common_recvmsg，跟踪它的代码，定义在net/core/sock.c中。  

 1 int   sock_common_recvmsg ( struct  kiocb  * iocb,  struct  socket  * sock,  struct  msghdr  * msg, size_t size,  int  flags)
 2 {
 3    struct sock *sk = sock->sk;
 4    int addr_len = 0;
 5    int err;
 6
 7    err = sk->sk_prot->recvmsg(iocb, sk, msg, size, flags & MSG_DONTWAIT,flags & ~MSG_DONTWAIT, &addr_len);
 8    
 9    return err;
10}

   struct sock表示套接字的网络接口层，它的成员sk_prot表示网络协议块，在这它对应tcp_prot结构，定义在net/ipv4/tcp_ipv4.c中，由此可见进入到特定协议的实现。

1 struct  proto  tcp_prot   =   {
2    .name            = "TCP",
3    
4    .close   =  tcp_close,
5    
6    .recvmsg  =  tcp_recvmsg,
7    
8} ;

   recvmsg设为tcp_recvmsg，至此跟踪结束。对于sys_readv的实现，调用的是vfs_readv，后面的过程和sys_read相同，总结核心调用链如下图：

   由此可知，sockfs_file_ops只须实现aio_read，就能支持普通和聚集两种方式的读操作。为了对比，这里也给出Berkeley Sockets API中recv的核心调用链如下图：

   显而易见，recv内部实现调用的是sys_recvfrom，它没有经过VFS，而是先调用sock_lookup_light从fd得到socket，再调用sock_recvmsg，后面的流程和recv就是一样的了。

Socket销毁

---

   Socket操作既可以调用文件IO，也可以调用Berkeley Sockets API。但销毁不同，系统调用close是用户空间销毁socket的唯一方法，它定义在fs/open.c中。

 1 SYSCALL_DEFINE1( close , unsigned  int , fd)
 2 {
 3    struct file * filp;
 4    struct files_struct *files = current->files;
 5    struct fdtable *fdt;
 6    int retval;
 7
 8    spin_lock(&files->file_lock);
 9    fdt = files_fdtable(files);
10    
11    filp = fdt->fd[fd];
12    
13    rcu_assign_pointer(fdt->fd[fd], NULL);
14    FD_CLR(fd, fdt->close_on_exec);
15    __put_unused_fd(files, fd);
16    spin_unlock(&files->file_lock);
17    retval = filp_close(filp, files);
18    
19}

   首先从fd获取对应的file，若file非空则设置进程描述符数组对应项为空，并将fd从exec时关闭的文件描述符链表和打开的文件描述符链表中移除；最后调用filp_close，跟踪它的代码，定义在fs/open.c中。

 1 int   filp_close ( struct  file  * filp, fl_owner_t id)
 2 {
 3    int retval = 0;
 4
 5    if (!file_count(filp)) {
 6        printk(KERN_ERR "VFS: Close: file count is 0\n");
 7        return 0;
 8    }
 9
10    if (filp->f_op && filp->f_op->flush)
11        retval = filp->f_op->flush(filp, id);
12
13    dnotify_flush(filp, id);
14    locks_remove_posix(filp, id);
15    fput(filp);
16    return retval;
17}

   首先判断file的引用计数，若为0则打印一个错误日志（说明这是一个bug，因为file已经被释放）并返回；由于sockfs_file_ops中的flush没有定义即为空，因此跳过；dnotify_flush用于释放任何相关的dnotify（一种文件监控机制）资源，locks_remove_posix用于清除文件锁相关的资源，由于socket对应的inode没有使用文件锁，因此它什么也没做。最后调用fput来释放file，定义在fs/file_table.c中。

1 void   fput ( struct  file  * file)
2 {
3    if (atomic_long_dec_and_test(&file->f_count))
4        __fput(file);
5}

   先递减引用计数，若为0则调用__fput释放file，它会调用到sockfs_file_ops定义的release函数即sock_close，它是sock_release的包装函数，sock_release定义在net/socket.c中。

 1 void   sock_release ( struct  socket  * sock)
 2 {
 3    if (sock->ops) {
 4        struct module *owner = sock->ops->owner;
 5
 6        sock->ops->release(sock);
 7        sock->ops = NULL;
 8        module_put(owner);
 9    }
10    if (sock->fasync_list)
11        printk(KERN_ERR "sock_release: fasync list not empty!\n");
12
13    percpu_sub(sockets_in_use, 1);
14    if (!sock->file) {
15        iput(SOCK_INODE(sock));
16        return;
17    }
18    sock->file = NULL;
19}           

   先调用ops->release即特定协议的释放操作，对于IPv4 TCP，就是inet_stream_ops中定义的inet_release函数，它又会调用到tcp_prot中定义的close即tcp_close；对于关联inode的释放，这里要分2种情况：如果sock->file为空，就调用iput释放，否则返回到__fput中，会调用dput释放dentry，而dentry又关联着inode，最终调用iput释放inode；当最后一个iput被调用时，sockfs_ops中定义的sock_destroy_inode就会被调用，归还由sock_alloc_inode分配的struct socket_alloc对象到SALB缓存中。总结核心调用链如下图：

   
   在 上篇初始化一节 ，我们已知sockfs文件系统被装载，然而实际上没有卸载它的方式。由于TCP/IP协议栈和sockfs被静态编译到内核中，而不是一个内核模块。因此没必要提供一个卸载函数，sockfs伪文件系统在启动到关闭期间，总是被装载着的。