3.1、linux中的文件IO

3.1.2.1、什么是操作系统API

(1)API是一些函数,这些函数是由linux系统提供支持的,由应用层程序来使用。
(2)应用层程序通过调用API来调用操作系统中的各种功能,来干活。
(3)学习一个操作系统,其实就是学习使用这个操作系统的API。
(1)今天我们要使用linux系统来读写文件,手段就是学习linux系统API中和文件IO有关的几个。

3.1.2.2、linux常用文件IO接口
(1)open、close、write、read、lseek

3.1.2.3、文件操作的一般步骤:
(1)在linux系统中要操作一个文件,一般是先open打开一个文件,得到一个 文件描述符 ,然后对文件进行读写操作(或其他操作),最后close关闭文件即可

(2)强调一点:我们对文件进行操作时,一定要先打开文件,打开成功后才能去操作(如果打开本身失败,后面就不用操作了);最后读写完成之后一定要close关闭文件,否则可能会造成文件损坏。

(3)文件平时是存在块设备中的文件系统中的,我们把这种文件叫静态文件。当我们去open打开一个文件时,linux内核做的操作包括:内核在进程中建立了一个打开文件的数据结构,记录下我们打开的这个文件;内核在内存中申请一段内存,并且将静态文件的内容从块设备中读取到内存中特定地址管理存放(叫动态文件)。

(4)打开文件后,以后对这个文件的读写操作,都是针对内存中这一份动态文件的,而并不是针对静态文件的。当我们对动态文件进行读写后,此时内存中的动态文件和块设备中的静态文件就不同步了,当我们close关闭动态文件时,close内部内核将内存中的动态文件的内容去更新(同步)块设备中的静态文件。

(5)常见的一些现象:
第一个:打开一个大文件时比较慢
第二个:我们写了一半的文件,如果没有点保存直接关机/断电,重启后文件内容丢失。

(6)为什么要这么设计?
因为块设备本身有读写限制(回忆NnadFlash、SD等块设备的读写特征),本身对块设备进行操作非常不灵活。而内存可以按字节为单位来操作,而且可以随机操作(内存就叫RAM,random),很灵活。所以内核设计文件操作时就这么设计了。

3.1.2.4、重要概念:文件描述符

(1)文件描述符其实实质是一个数字,这个数字在一个进程中表示一个特定的含义,当我们open打开一个文件时,操作系统在内存中构建了一些数据结构来表示这个动态文件,然后返回给应用程序一个数字作为文件描述符,这个数字就和我们内存中维护这个动态文件的这些数据结构挂钩绑定上了,以后我们应用程序如果要操作这一个动态文件,只需要用这个文件描述符进行区分。

(2)一句话讲清楚文件描述符:文件描述符就是用来区分一个程序打开的多个文件的。

(3)文件描述符的作用域就是当前进程,出了当前进程这个文件描述符就没有意义了

3.1.3.一个简单的文件读写实例

3.1.3.1、打开文件与关闭文件
(1)linux中的文件描述符fd的合法范围是0或者一个正正数,不可能是一个负数。

(2)open返回的fd程序必须记录好,以后向这个文件的所有操作都要靠这个fd去对应这个文件,最后关闭文件时也需要fd去指定关闭这个文件。如果在我们关闭文件前fd丢掉了那就惨了,这个文件没法关闭了也没法读写了。

3.1.3.2、实时查man手册
(1)当我们写应用程序时,很多API原型都不可能记得,所以要实时查询,用man手册

(2)man 1 xx查linux shell命令,man 2 xxx查API, man 3 xxx查库函数
3.1.3.3、读取文件内容

(1)ssize_t read(int fd, void *buf, size_t count);
fd表示要读取哪个文件,fd一般由前面的open返回得到
buf是应用程序自己提供的一段内存缓冲区,用来存储读出的内容
count是我们要读取的字节数
返回值ssize_t类型是linux内核用typedef重定义的一个类型(其实就是int),返回值表示成功读取的字节数。

3.1.3.4、向文件中写入
(1)写入用write系统调用,write的原型和理解方法和read相似

(2)注意const在buf前面的作用,结合C语言高级专题中的输入型参数和输出型参数一节来理解。

(3)注意buf的指针类型为void,结合C语言高级专题中void类型含义的讲解

(4)刚才先写入12字节,然后读出结果读出是0(但是读出成功了:因为写入的时候文件指针移动到文件末尾,int ret = lseek(fd, 0, SEEK_SET);        //将文件指针移动到离文件开头0字节处。 printf("lseek, ret = %d.\n", ret) ;// 加了O_TRUNC后,lseek才生效。 (读之前加这句话)所以读出来0(如果原来文本里面有内容的话,并不会是0字节,但是一定没内容),但是读成功了),这个问题的答案后面章节会讲,大家先思考一下。
#include <stdio.h>
#include <sys/types.h>
#include <sys/stat.h>
#include <fcntl.h>
#include <unistd.h>
#include <string.h>



int main(int argc, char *argv[])
{
    int fd = -1;        // fd 就是file descriptor,文件描述符
    char buf[100] = {0};
    char writebuf[20] = "l love linux";
    int ret = -1;
    
    // 第一步:打开文件
    fd = open("a.txt", O_RDWR);
    if (-1 == fd)        // 有时候也写成: (fd < 0)
    {
        printf("文件打开错误\n");
    }
    else
    {
        printf("文件打开成功,fd = %d.\n", fd);
    }
    
    // 第二步:读写文件
    // 写文件
    
    ret = write(fd, writebuf, strlen(writebuf));
    if (ret < 0)
    {
        printf("write失败.\n");
    }
    else
    {
        printf("write成功,写入了%d个字符\n", ret);
    }
    
    int ret1 = lseek(fd, 0, SEEK_SET);//先移动文件指针再去读。
    
    // 读文件
    ret = read(fd, buf, strlen(writebuf));
    if (ret < 0)
    {
        printf("read失败\n");          //先将文件写入,紧跟着再读文件,这样读不出来文件,因为文件指针移动到了文件末尾。
    }
    else
    {
        printf("实际读取了%d字节.\n", ret);
        printf("文件内容是:[%s].\n", buf);//%s是字符串形式,只要输入一个串的首地址,他将输出该地址后的所有字符知道遇到'\0'结束字符
    }
    
    // 第三步:关闭文件
    close(fd);
    
    return 0;
}

3.1.4.open函数的flag详解1

3.1.4.1、读写权限:O_RDONLY O_WRONLY O_RDWR
(1)linux中文件有读写权限,我们在open打开文件时也可以附带一定的权限说明(譬如O_RDONLY就表示以只读方式打开,O_WRONLY表示以只写方式打开,O_RDWR表示以可读可写方式打开)

(2)当我们附带了权限后,打开的文件就只能按照这种权限来操作。
3.1.4.2、打开存在并有内容的文件时:O_APPEND(直接附加在源文件后面)、O_TRUNC(将原来的内容覆盖,添加新内容)

/*
    问题说明:共享文件夹:单独使用APPEND后,出现空格问题,出现在原来内容的前面,但是内容有时候还能显示在原来内容的后面,追加。莫名其妙的问题。
    解决方法:使用Linux原生目录就不会出现^@这样的空格符号。         :分析问题,解决问题
*/

(1)思考一个问题:当我们打开一个已经存在并且内部有内容的文件时会怎么样?
可能结果1:新内容会替代原来的内容(原来的内容就不见了,丢了)
可能结果2:新内容添加在前面,原来的内容继续在后面
可能结果3:新内容附加在后面,原来的内容还在前面
可能结果4:不读不写的时候,原来的文件中的内容保持不变

(2)O_TRUNC属性去打开文件时,如果这个文件中本来是有内容的,则原来的内容会被丢弃。这就对应上面的结果1

(3)O_APPEND属性去打开文件时,如果这个文件中本来是有内容的,则新写入的内容会接续到原来内容的后面,对应结果3

(4)默认不使用O_APPEND和O_TRUNC属性时就是结果4

(5)如果O_APPEND和O_TRUNC同时出现会怎么样?(执行O_TRUNC的效果。)

3.1.4.3、exit、_exit、_Exit退出进程
(1)当我们程序在前面步骤操作失败导致后面的操作都没有可能进行下去时,应该在前面的错误监测中结束整个程序,不应该继续让程序运行下去了。

(2)我们如何退出程序?

第一种;在main用return,一般原则是程序正常终止return 0,如果程序异常终止则return -1。
第一种:正式终止进程(程序)应该使用exit或者_exit或者_Exit之一。exit(1)会回收全局变量和进行静态成员的清理。

#include<stdio.h>
#include <sys/types.h>
#include <sys/stat.h>
#include <fcntl.h>
#include <unistd.h>
#include <string.h>
int main(int argc, char* argv[])
{
    int fd = -1;   //fd 就是File descriptor  ,文件描述符
    char buf[100] = {0};
    char writebuf[20] = "I q loveliaa";
    int ret = -1;
    //第一步打开文件O_EXCL:若文件名相同,则创建错误。
    fd = open("a.txt",O_RDWR | O_APPEND | O_TRUNC);   //只读的不可以写,只写的不可以读
    if(-1 == fd)
    {
        printf("文件打开错误\n");
        _exit(-1);
    }
    else
    {
        printf("文件打开成功,fd = %d.\n",fd);
    }
#if 1
    //第二步;读写文件
    
    //写文件
    ret = write(fd,writebuf,strlen(writebuf));
    if(ret<0)
    {
        printf("write失败\n");
        _exit(-1);
    }
    else
    {
        printf("write成功,写入了%d个字符\n",ret);
    }
#endif
    //这个ret返回的就是文件的大小byte
    int ret1 = lseek(fd, 0, SEEK_SET);//先移动文件指针再去读。
    
#if 1
    //读文件
    ret = read(fd, buf, strlen(writebuf));  //一个char,一个字节
    if(ret < 0)
    {
        printf("read失败\n");
        _exit(-1);
    }
    else
    {
        printf("文件读取了%d字节.\n",ret);  //读几个字节就返回几个字节
        printf("文件内容是:【%s】\n",buf);
    }
#endif
    //关闭文件
    close(fd);
    
    _exit(0);
}

3.1.5.open函数的flag详解2

3.1.5.1、打开不存在的文件时:O_CREAT、O_EXCL
(1)思考:当我们去打开一个并不存在的文件时会怎样?当我们open打开一个文件时如果这个文件名不存在则会打开文件错误。

(2)vi或者windows下的notepad++,都可以直接打开一个尚未存在的文件。

(3)open的flag O_CREAT就是为了应对这种打开一个并不存在的文件的。
O_CREAT就表示我们当前打开的文件并不存在,我们是要去创建并且打开它。

(4)思考:当我们open使用了O_CREAT,但是文件已经存在的情况下会怎样?经过实验验证发现结果是报错。

(5)结论:open中加入O_CREAT后,不管原来这个文件存在与否都能打开成功,如果原来这个文件不存在则创建一个空的新文件,如果原来这个文件存在则会重新创建这个文件,原来的内容会被消除掉(有点类似于先删除原来的文件再创建一个新的)

(6)这样可能带来一个问题?我们本来是想去创建一个新文件的,但是把文件名搞错了弄成了一个老文件名,结果老文件就被意外修改了。我们希望的效果是:如果我CREAT要创建的是一个已经存在的名字的文件,则给我报错,不要去创建。

(7)为了解决上面的重名覆盖问题:出来一个解决方案:这个效果就要靠O_EXCL(这个标志加上去后,如果执行创建一个同名的文件,将创建失败,程序结束)标志和O_CREAT标志来结合使用。当这两个标志一起的时候,则没有文件时创建文件,有这个文件时会报错提醒我们。

(8)open函数在使用O_CREAT(这是和mode配合使用的)标志去创建文件时,可以使用第三个参数mode来指定要创建的文件的权限。mode使用4个数字来指定权限的,其中后面三个很重要,对应我们要创建的这个文件的权限标志。譬如一般创建一个可读可写不可执行的文件就用0666

3.1.5.2、O_NONBLOCK
(1)阻塞与非阻塞。如果一个函数是阻塞式的,则我们调用这个函数时当前进程有可能被卡住(阻塞住,实质是这个函数内部要完成的事情条件不具备,当前没法做,要等待条件成熟),函数被阻塞住了就不能立刻返回;如果一个函数是非阻塞式的那么我们调用这个函数后一定会立即返回,但是函数有没有完成任务不一定。

(2)阻塞和非阻塞是两种不同的设计思路,并没有好坏。总的来说,阻塞式的结果有保障但是时间没保障;非阻塞式的时间有保障但是结果没保障。

(3)操作系统提供的API和由API封装而成的库函数,有很多本身就是被设计为阻塞式或者非阻塞式的,所以我们应用程度调用这些函数的时候心里得非常清楚。
(4)我们打开一个文件默认就是阻塞式的,如果你希望以非阻塞的方式打开文件,则flag中要加O_NONBLOCK标志。(就是说必须等待结果完成才可以执行结束)

(5)只 用于设备文件 ,而不用于普通文件。

3.1.5.3、O_SYNC
(1)write阻塞等待底层完成写入才返回到应用层。

(2)无O_SYNC时write只是将内容写入底层缓冲区即可返回,然后底层(操作系统中负责实现open、write这些操作的那些代码,也包含OS中读写硬盘等底层硬件的代码)在合适的时候会将buf中的内容一次性的同步到硬盘中。这种设计是为了提升硬件操作的性能和销量,提升硬件寿命;但是有时候我们希望硬件不要等待,直接将我们的内容写入硬盘中,这时候就可以用O_SYNC标志。

#include<stdio.h>
#include <sys/types.h>
#include <sys/stat.h>
#include <fcntl.h>
#include <unistd.h>
#include <string.h>
int main(int argc,char* argv[])
{
    int fd = -1;   //fd 就是File descriptor  ,文件描述符
    char buf[100] = {0};
    char writebuf[20] = "I love linux11111aa";
    int ret = -1;
    //第一步打开文件
    fd = open("a.txt", O_RDWR | O_CREAT | O_SYNC,0777);   //只读的不可以写,只写的不可以读
    if(-1 == fd)
    {
        //printf("文件打开错误\n");
        perror("文件打开错误");     //利用系统提供的API进行出错提示,提高代码的质量。
        _exit(-1);
    }
    else
    {
        printf("文件打开成功,fd = %d.\n",fd);
    }
#if 1
    //第二步;读写文件
    
    //写文件
    ret = write(fd,writebuf,strlen(writebuf));
    if(ret<0)
    {
        //printf("write失败\n");
        perror("write失败");
        _exit(-1);
    }
    else
    {
        printf("write成功,写入了%d个字符\n",ret);
    }
#endif
    
    int ret1 = lseek(fd, 0, SEEK_SET);//先移动文件指针再去读。
    
#if 1
    //读文件
    ret = read(fd, buf, 5);  //一个char,一个字节
    if(ret < 0)
    {
        printf("read失败\n");
        _exit(-1);
    }
    else
    {
        printf("文件读取了%d字节.\n",ret);  //读几个字节就返回几个字节
        printf("文件内容是:【%s】\n",buf);
    }
#endif
    //关闭文件
    close(fd);
    
    _exit(0);
}

3.1.6.文件读写的一些细节

3.1.6.1、errno和perror
(1)errno就是error number,意思就是错误号码。linux系统中对各种常见错误做了个编号,当函数执行错误时,函数会返回一个特定的errno编号来告诉我们这个函数到底哪里错了。

(2)errno是由OS来维护的一个全局变量,任何OS内部函数都可以通过设置errno来告诉上层调用者究竟刚才发生了一个什么错误。

(3)errno本身实质是一个int类型的数字,每个数字编号对应一种错误。当我们只看errno时只能得到一个错误编号数字(譬如-37),不适应于人看。

(4)linux系统提供了一个函数perror(意思print error),perror函数内部会读取errno并且将这个不好认的数字直接给转成对应的错误信息字符串,然后print打印出来。

3.1.6.3、文件IO效率和标准IO
(1)文件IO就指的是我们当前在讲的open、close、write、read等API函数构成的一套用来读写文件的体系,这套体系可以很好的完成文件读写,但是效率并不是最高的。

(2)应用层C语言库函数提供了一些用来做文件读写的函数列表,叫标准IO。标准IO由一系列的C库函数构成(fopen、fclose、fwrite、fread),这些标准IO函数其实是由文件IO封装而来的(fopen内部其实调用的还是open,fwrite内部还是通过write来完成文件写入的)。标准IO加了封装之后主要是为了在应用层添加一个 缓冲机制( 标准IO有的这个机制,效率高 ,这样我们通过fwrite写入的内容不是直接进入内核中的buf,而是先进入应用层标准IO库自己维护的buf中,然后标准IO库自己根据操作系统单次write的最佳count来选择好的时机来完成write到内核中的buf(内核中的buf再根据硬盘的特性来选择好的时机去最终写入硬盘中)。

3.1.7.linux系统如何管理文件

3.1.7.1、硬盘中的静态文件和inode(i节点)
(1)文件平时都存放在硬盘中的,硬盘中存储的文件以一种固定的形式存放的,我们叫静态文件。(扇区是访问硬件最小的单元,每个扇区512个字节)

(2)一块硬盘中可以分为两大区域:一个是硬盘内容管理表项,另一个是真正存储内容的区域。操作系统访问硬盘时是先去读取硬盘内容管理表,从中找到我们要访问的那个文件的扇区级别的信息,然后再用这个信息去查询真正存储内容的区域,最后得到我们要的文件。

(3)操作系统最初拿到的信息是文件名,最终得到的是文件内容。第一步就是去查询硬盘内容管理表,这个管理表中以文件为单位记录了各个文件的各种信息,每一个文件有一个信息列表(我们叫inode,i节点,其实质是一个结构体,这个结构体有很多元素,每个元素记录了这个文件的一些信息,其中就包括文件名、文件在硬盘上对应的扇区号、块号那些东西·····)

强调:硬盘管理的时候是以文件为单位的,每个文件一个inode,每个inode有一个数字编号,对应一个结构体,结构体中记录了各种信息。

(4)联系平时实践,大家格式化硬盘(U盘)时发现有:快速格式化和底层格式化。快速格式化非常快,格式化一个32GB的U盘只要1秒钟,普通格式化格式化速度慢。这两个的差异?其实快速格式化就是只删除了U盘中的硬盘内容管理表(其实就是inode),真正存储的内容没有动。这种格式化的内容是有可能被找回的。

3.1.7.2、内存中被打开的文件和vnode(v节点)
(1)一个程序的运行就是一个进程,我们在程序中打开的文件就属于某个进程。每个进程都有一个数据结构用来记录这个进程的所有信息(叫进程信息表),表中有一个指针会指向一个文件管理表,文件管理表中记录了当前进程打开的所有文件及其相关信息。文件管理表中用来索引各个打开的文件的index就是文件描述符fd,我们最终找到的就是一个已经被打开的文件
的管理结构体vnode

(2)一个vnode中就记录了一个被打开的文件的各种信息,而且我们只要知道这个文件的fd,就可以很容易的找到这个文件的vnode进而对这个文件进行各种操作。

3.1.7.3、文件与流的概念
(1)流(stream)对应自然界的水流。文件操作中,文件类似是一个大包裹,里面装了一堆字符,但是文件被读出/写入时都只能一个字符一个字符的进行,而不能一股脑儿的读写,那么一个文件中N多的个字符被挨个依次读出/写入时,这些字符就构成了一个字符流。

(2)流这个概念是动态的,不是静态的。

(3)编程中提到流这个概念,一般都是IO相关的。所以经常叫IO流。文件操作时就构成了一个IO流。

3.1.8.lseek详解

3.1.8.1、函数介绍
(1)文件指针(类似GUI下面的光标):当我们要对一个文件进行读写时,一定需要先打开这个文件,所以我们读写的所有文件都是动态文件。动态文件在内存中的形态就是文件流的形式。

(2)文件流很长,里面有很多个字节。那我们当前正在操作的是哪个位置?GUI模式下的软件用光标来标识这个当前正在操作的位置,这是给人看的。
lseek(fd, 10, SEEK_SET);        //将文件指针移动到离文件开头10字节处。

(3)在动态文件中,我们会通过文件指针来表征这个正在操作的位置。所谓文件指针,就是我们文件管理表这个结构体里面的一个指针。所以文件指针其实是vnode中的一个元素。这个指针表示当前我们正在操作文件流的那个位置。这个指针不能被直接访问,linux系统用lseek函数来访问这个文件指针。

(4)当我们打开一个空文件时,默认情况下文件指针指向文件流的开始。所以这时候去write时写入就是从文件开头开始的。write和read函数本身自带移动文件指针的功能,所以当我write了n个字节后,文件指针会自动向后移动n位。如果需要人为的随意更改文件指针,那就只能通过lseek函数了

(5)read和write函数都是从当前文件指针处开始操作的,所以当我们用lseek显式的将文件指针移动后,那么再去read/write时就是从移动过后的位置开始的。

(6)回顾前面一节中我们从空文件,先write写了12字节,然后read时是空的(但是此时我们打开文件后发现12字节确实写进来了)。

#include<stdio.h>
#include <sys/types.h>
#include <sys/stat.h>
#include <fcntl.h>
#include <unistd.h>
#include <string.h>
int main(int argc,char* argv[])
{
    int fd = -1;   //fd 就是File descriptor  ,文件描述符
    char buf[100] = {0};
    char writebuf[20] = "I love linux";
    int ret = -1;
    //第一步打开文件
    fd = open("a.txt", O_RDWR);   //只读的不可以写,只写的不可以读
    if(-1 == fd)
    {
        //printf("文件打开错误\n");
        perror("文件打开错误");     //利用系统提供的API进行出错提示,提高代码的质量。
        _exit(-1);
    }
    else
    {
        perror("文件打开错误");
        printf("文件打开成功,fd = %d.\n",fd);
    }
    ret = lseek(fd, 3, SEEK_SET);  //从3这个偏移量开始读。类似光标
    printf("lseek,ret = %d.\n",ret);
#if 1
    //第二步;读写文件
    
    //写文件
    ret = write(fd,writebuf,strlen(writebuf));
    if(ret<0)
    {
        //printf("write失败\n");
        perror("write失败");
        _exit(-1);
    }
    else
    {
        printf("write成功,写入了%d个字符\n",ret);
    }
#endif
    
    ret = lseek(fd, 3, SEEK_SET); //这个函数返回的是什么呢?等有网络的时候查一下。文件的长度?从index的3开始到文件的末尾end。
    
#if 1
    //读文件
    ret = read(fd, buf, 5);  //一个char,一个字节
    if(ret < 0)
    {
        printf("read失败\n");
        _exit(-1);
    }
    else
    {
        printf("文件读取了%d字节.\n",ret);  //读几个字节就返回几个字节
        printf("文件内容是:【%s】\n",buf);
    }
#endif
    //关闭文件
    close(fd);
    
    _exit(0);
}

3.1.8.2、用lseek计算文件长度
(1)linux中并没有一个函数可以直接返回一个文件的长度。但是我们做项目时经常会需要知道一个文件的长度,怎么办?自己利用lseek来写一个函数得到文件长度即可。(用linux下面的argv这个命令行参数解决。)
#include <stdio.h>
#include <sys/types.h>
#include <sys/stat.h>
#include <fcntl.h>
#include <unistd.h>
#include <string.h>
int cal_len(const char *pathname)
{
    int fd = -1;      //fd就是File description,文件描述符
    int ret = -1;
    
    //打开文件
    fd = open(pathname,O_RDONLY);
    if(-1 == fd)
    {
        perror("文件打开错误");
        return -1;
    }
    //此时文件指针指向开头的位置,我们用lseek将文件指针
    //移动到末尾,然后返回值就是文件指针距离文件开头的偏移量,
    //也就是文件的长度了。
    ret = lseek(fd, 0, SEEK_END);  //这句话的意思是,距离文件末尾0字节,相当于这个光标在末尾
    return ret;
}
int main(int argc,char *argv[])
{
    int fd = -1;
    int ret = -1;
    
    if(argc != 2)
    {
        printf("usage:%s filename\n",argv[0]);
        _exit(-1);
    }
    
    printf("文件长度是:%d字节\n",cal_len(argv[1]));
    
    return 0;
}

3.1.8.3、用lseek构建空洞文件
(1)空洞文件就是这个文件中有一段是空的。

(2)普通文件中间是不能有空的,因为我们write时文件指针是依次从前到后去移动的,不可能绕过前面直接到后面。

(3)我们打开一个文件后,用lseek往后跳过一段,再write写入一段,就会构成一个空洞文件。

(4)空洞文件方法对多线程共同操作文件是及其有用的。有时候我们创建一个很大的文件,如果从头开始依次构建时间很长。有一种 思路就是: 将文件分为多段,然后多线程来操作每个线程负责其中一段的写入。

#include <stdio.h>
#include <sys/types.h>
#include <sys/stat.h>
#include <fcntl.h>
#include <unistd.h>
#include <string.h>
int main(int argc, char *argv[])
{
    int fd = -1;        // fd 就是file descriptor,文件描述符
    char buf[100] = {0};
    char writebuf[20] = "abc000iuhjkhuigjhghd";
    int ret = -1;
    
    // 第一步:打开文件
    fd = open("a.txt", O_RDWR | O_CREAT);
    //fd = open("a.txt", O_RDONLY);
    if (-1 == fd)        // 有时候也写成: (fd < 0)
    {
        //printf("\n");
        perror("文件打开错误");
        // return -1;
        _exit(-1);
    }
    else
    {
        printf("文件打开成功,fd = %d.\n", fd);
    }
    
    ret = lseek(fd, 10, SEEK_SET);        //将文件指针移动到离文件开头10字节处。构建空洞文件
    printf("lseek, ret = %d.\n", ret);
    
    
#if 1    
    // 第二步:读写文件
    // 写文件
    ret = write(fd, writebuf, strlen(writebuf));
    if (ret < 0)
    {
        //printf("write失败.\n");
        perror("write失败");
        _exit(-1);
    }
    else
    {
        printf("write成功,写入了%d个字符\n", ret);
    }
#endif
    ret = lseek(fd, 10, SEEK_SET);        //将文件指针移动到离文件开头0字节处。
    printf("lseek, ret = %d.\n", ret);
#if 1
    // 读文件
    ret = read(fd, buf, strlen(writebuf));
    if (ret < 0)
    {
        printf("read失败\n");
        _exit(-1);
    }
    
    else
        
    {
        printf("实际读取了%d字节.\n", ret);//lseek从0开始的话读不出来,因为空白部分没有字符串。
        printf("文件内容是:[%s].\n", buf);    //为什么读到了,但是现实不出来。缓冲区问题??
    }
#endif    
    // 第三步:关闭文件
    close(fd);
    
    _exit(0);
}


3.1.9.多次打开同一文件与O_APPEND

3.1.9.1、重复打开同一文件读取
(1)一个进程中两次打开同一个文件,然后分别读取,看结果会怎么样

(2)结果无非2种情况:一种是fd1和fd2分别读,第二种是接续读。经过实验验证,证明了结果是fd1和fd2分别读。

(3)分别读说明:我们使用open两次打开同一个文件时,fd1和fd2所对应的文件指针是不同的2个独立的指针。文件指针是包含在动态文件的文件管理表中的,所以可以看出linux系统的进程中不同fd对应的是不同的独立的文件管理表。(打印出来结果表明fd1和fd2文件描述符不同)

#include <stdio.h>
#include <unistd.h>
#include <stdlib.h>
#include <string.h>
#include <sys/types.h>
#include <sys/stat.h>
#include <fcntl.h>
int main(int argc, char *argv[])
{
    int fd1 = -1, fd2 = -1;
    char buf[100] = {0};
    int ret = -1;
    
    //第一步打开文件
    fd1 = open("a.txt",O_RDWR);        //打开同一文件,获得同一文件的文件描述符。
    fd2 = open("a.txt",O_RDWR);
    
    printf("fd1 = %d\n", fd1);
    printf("fd2 = %d\n", fd2);
    
    if((-1 == fd1) || (-1 == fd2))
    {
        perror("文件打开错误");
        _exit(-1);
    }
    else
    {
        perror("文件打开");
    }
    
#if 1
    //第二步读写文件
    while(1)
    {
            //读文件
    //清空,或者初始化类型,第二个参数表示希望把内存空间初始化成什么样的值。
    memset(buf, 0, sizeof(buf));
    ret = read(fd1, buf, 2);
    if(ret < 0)
    {
        perror("文件read失败\n");
        _exit(-1);
    }
    else
    {                                    //以文件描述符为区分,以2个字符分别读
        printf("fd1: [%s].\n",buf);
    }
    
    sleep(1);
    
    memset(buf, 0, sizeof(buf));
    ret = read(fd2, buf,2);
    if (ret < 0)
    {
        perror("文件read失败\n");
        _exit(-1);
    }
    else
    {
        printf("fd2 : [%s].\n",buf);
    }
    }
#endif
    //关闭文件
    close(fd1);
    close(fd2);
    
    _exit(0);
}

3.1.9.2、重复打开同一文件写入
(1)一个进程中2个打开同一个文件,得到fd1和fd2.然后看是分别写还是接续写?

(2)正常情况下我们有时候需要分别写,有时候又需要接续写,所以这两种本身是没有好坏之分的。关键看用户需求(不加APPEND时候是分别写,加了之后接续写,不会被覆盖。)注意文件指针的移动

(3)默认情况下应该是:分别写(实验验证过的)

#include <stdio.h>
#include <sys/types.h>
#include <sys/stat.h>
#include <fcntl.h>
#include <unistd.h>
#include <string.h>
int main(int argc, char *argv[])
{
    int fd1 = -1, fd2 = -1;        // fd 就是file descriptor,文件描述符
    char buf[100] = {0};
    char writebuf[20] = "l love linux";
    int ret = -1;
    
    //第一步:打开文件
    fd1 = open("a.txt", O_RDWR | O_TRUNC | O_CREAT | O_APPEND);
    fd2 = open("a.txt", O_RDWR | O_TRUNC | O_CREAT | O_APPEND);//| O_APPEND
        //fd = open("a.txt", O_RDONLY);
        
    if ((-1 == fd1) || (fd2 == -1))        // 有时候也写成: (fd < 0)
    {
        //printf("\n");
        perror("文件打开错误");
        // return -1;
        _exit(-1);
    }
    else
    {
        printf("文件打开成功,fd1 = %d. fd2 = %d.\n", fd1, fd2);
    }
#if 1
    while(1)
    {
        //第二步:读写文件
        //写文件
        ret = write(fd1, "ab", 2);
        if(ret < 0)
        {
            perror("文件打开失败");
            _exit(-1);
        }
        else
        {
            printf("write成功,写入%d个字节",ret);
        }
        
        ret = write(fd2, "cd", 2);
        if(ret<0)
        {
            perror("文件打开失败");
            _exit(-1);
        }
        else
        {
            printf("write成功,写入%d个字节",ret);
        }
        sleep(1);
    }
#endif
    int a = lseek(fd2, 0, SEEK_SET);
    printf("文件长度为%d个字节\n",a);
    close(fd1);
    close(fd2);
    _exit(0);
}


3.1.9.3、加O_APPEND解决覆盖问题
(1)有时候我们希望接续写而不是分别写?办法就是在open时加O_APPEND标志即可

3.1.9.4、O_APPEND的实现原理和其原子操作性说明
(1)O_APPEND为什么能够将分别写改为接续写?关键的核心的东西是文件指针。分别写的内部原理就是2个fd拥有不同的文件指针,并且彼此只考虑自己的位移。但是O_APPEND标志可以让write和read函数内部多做一件事情,就是移动自己的文件指针的同时也去把别人的文件指针同时移动。(也就是说即使加了O_APPEND,fd1和fd2还是各自拥有一个独立的文件指针,但是这两个文件指针关联起来了,一个动了会通知另一个跟着动)

(2)O_APPEND对文件指针的影响,对文件的读写是原子的。

(3)原子操作的含义是:整个操作一旦开始是不会被打断的,必须直到操作结束其他代码才能得以调度运行,这就叫原子操作。每种操作系统中都有一些机制来实现原子操作,以保证那些需要原子操作的任务可以运行。

3.1.10.文件共享的实现方式

3.1.10.1、什么是文件共享
(1)文件共享就是同一个文件(同一个文件指的是同一个inode,同一个pathname)被多个独立的读写体(几乎可以理解为多个文件描述符)去同时(操作一个打开了尚未关闭的文件)操作。

(2)文件共享的意义有很多:譬如我们可以通过文件共享来实现多线程同时操作同一个大文件,以减少文件读写时间,提升效率。

3.1.10.2、文件共享的3种实现方式
(1)文件共享的核心就是怎么弄出来多个文件描述符指向同一个文件。

(2)常见的有3种文件共享的情况:第一种是同一个进程中多次使用open打开同一个文件,第二种是在不同进程中去分别使用open打开同一个文件(这时候因为两个fd在不同的进程中,所以两个fd的数字可以相同也可以不同),第三种情况是后面要学的,linux系统提供了dup和dup2两个API来让进程复制文件描述符。

(3)我们分析文件共享时的 核心关注点在于 :分别写/读还是接续写/读

3.1.10.3、再论文件描述符
(1)文件描述符的本质是一个数字,这个数字本质上是进程表中文件描述符表的一个表项,进程通过文件描述符作为index去索引查表得到文件表指针,再间接访问得到这个文件对应的文件表。

(2)文件描述符这个数字是open系统调用内部由操作系统自动分配的,操作系统分配这个fd时也不是随意分配,也是遵照一定的规律的,我们现在就要研究这个规律。

(3)操作系统规定,fd从0开始依次增加。fd也是有最大限制的,在linux的早期版本中(0.11)fd最大是20,所以当时一个进程最多允许打开20个文件。linux中文件描述符表是个数组(不是链表),所以这个文件描述符表其实就是一个数组,fd是index,文件表指针是value

(4)当我们去open时,内核会从文件描述符表中挑选一个最小的未被使用的数字给我们返回。也就是说如果之前fd已经占满了0-9,那么我们下次open得到的一定是10.(但是如果上一个fd得到的是9,下一个不一定是10,这是因为可能前面更小的一个fd已经被close释放掉了)

(5)fd中0、1、2已经默认被系统占用了,因此用户进程得到的最小的fd就是3了。

(6)linux内核占用了0、1、2这三个fd是有用的,当我们运行一个程序得到一个进程时,内部就默认已经打开了3个文件,这三个文件对应的fd就是0、1、2。这三个文件分别叫stdin、stdout、stderr。也就是标准输入、标准输出、标准错误。( Linux中一切皆是文件 ,设备有设备文件。)

(7)标准输入一般对应的是键盘(可以理解为:0这个fd对应的是键盘的设备文件),标准输出一般是LCD显示器(可以理解为:1对应LCD的设备文件)
(8)printf函数其实就是默认输出到标准输出stdout上了。stdio中还有一个函数叫fpirntf,这个函数就可以指定输出到哪个文件描述符中。

3.1.11.文件描述符的复制1

3.1.11.1、dup和dup2函数介绍
3.1.11.2、使用dup进行文件描述符复制
(1)dup系统调用对fd进行复制,会返回一个新的文件描述符(譬如原来的fd是3,返回的就是4)

(2)dup系统调用有一个特点,就是自己不能指定复制后得到的fd的数字是多少,而是由操作系统内部自动分配的,分配的原则遵守fd分配的原则。

(3)dup返回的fd和原来的oldfd都指向oldfd打开的那个动态文件,操作这两个fd实际操作的都是oldfd打开的那个文件。实际上构成了文件共享。

(4)dup返回的fd和原来的oldfd同时向一个文件写入时,结果是分别写还是接续写?(测试:是接续写)

#include <stdio.h>
#include <sys/types.h>
#include <sys/stat.h>
#include <fcntl.h>
#define FILENAME  "1.txt"
int main(void)
{
    int fd1 = -1, fd2 = -2;
    
    fd1 = open(FILENAME, O_RDWR | O_CREAT | O_TRUNC, 0664);
    if(fd1 < 0)
    {
        perror("open");
        return -1;
    }
    printf("fd1 = %d.\n",fd1);
    
    close(1);                  // 1就是标准输出stdout
    //复制文件描述符
    fd2 = dup(fd1);   //fd2一定等于1,因为前面刚刚关闭了1,这句话就把
    //1.txt文件和标准输出就绑定起来了,所以以后输出到标准输出的信息就
    //可以到1.txt中查看了
    printf("fd2 = %d.\n",fd2);
    printf("this is for test\n");
    
    close(fd1);       //二者是关联的,接续的,只需要关闭一个就可以了。
    
    return 0;
}

3.1.11.3、使用dup的缺陷分析
(1)dup并不能指定分配的新的文件描述符的数字,dup2系统调用修复了这个缺陷,所以平时项目中实际使用时根据具体情况来决定用dup还是dup2.

3.1.11.4、练习
(1)之前课程讲过0、1、2这三个fd被标准输入、输出、错误通道占用。而且我们可以关闭这三个

(2)我们可以close(1)关闭标准输出,关闭后我们printf输出到标准输出(命令行终端)的内容就看不到了

(3)然后我们可以使用dup重新分配得到1这个fd,这时候就把oldfd打开的这个文件和我们1这个标准输出通道给绑定起来了。这就叫 标准输出的重定位

(4)可以看出,我们可以使用close和dup配合进行文件的重定位。

3.1.12.文件描述符的复制2

3.1.12.1、使用dup2进行文件描述符复制
(1)dup2和dup的作用是一样的,都是复制一个新的文件描述符。但是dup2允许用户指定新的文件描述符的数字。

(2)使用方法看man手册函数原型即可。

3.1.12.2、dup2共享文件交叉写入测试
(1)dup2复制的文件描述符,和原来的文件描述符虽然数字不一样,但是这两个指向同一个打开的文件

(2)交叉写入的时候,结果是接续写(实验证明的)。

#include <stdio.h>
#include <sys/types.h>
#include <sys/stat.h>
#include <fcntl.h>
#define FILENAME  "1.txt"
int main(void)
{
    int fd1 = -1, fd2 = -2;
    
    fd1 = open(FILENAME, O_RDWR | O_CREAT | O_TRUNC, 0664);
    if(fd1 < 0)
    {
        perror("open");
        return -1;
    }
    printf("fd1 = %d.\n",fd1);
    
    //close(1);                  // 1就是标准输出stdout
    
    //复制文件描述符
    //fd2 = dup(fd1);   //fd2一定等于1,因为前面刚刚关闭了1,这句话就把
    //1.txt文件和标准输出就绑定起来了,所以以后输出到标准输出的信息就
    //可以到1.txt中查看了
    
    //指定文件描述符的数字fd
    fd2 = dup2(fd1, 16);          
    printf("fd2 = %d.\n",fd2);
    printf("this is for test\n");
    
    while(1)
    {
        write(fd1, "aa", 2);    //接续写,
        sleep(1);
        write(fd2, "bb", 2);
    }
    close(fd1);       //二者是关联的,接续的,只需要关闭一个就可以了。
    
    return 0;
}

3.1.12.3、命令行中重定位命令 >(使用方法:man 2 fcntl > r.txt)

(1)linux中的shell命令执行后,打印结果都是默认进入stdout的(本质上是因为这些命令譬如ls、pwd等都是调用printf进行打印的),所以我们可以在linux的终端shell中直接看到命令执行的结果。

(2)能否想办法把ls、pwd等命令的输出给重定位到一个文件中(譬如2.txt)去,实际上linux终端支持一个重定位的符号>很简单可以做到这点。

(3)这个>的实现原理,其实就是利用open+close+dup,open打开一个文件2.txt,然后close关闭stdout,然后dup将1和2.txt文件关联起来即可。

3.1.13.fcntl函数介绍

3.1.13.1、fcntl的原型和作用
(1)fcntl函数是一个多功能文件管理的工具箱,接收2个参数+1个变参。第一个参数是fd表示要操作哪个文件,第二个参数是cmd表示要进行哪个命令操作。变参是用来传递参数的,要配合cmd来使用。

(2)cmd的样子类似于F_XXX,不同的cmd具有不同的功能。学习时没必要去把所有的cmd的含义都弄清楚(也记不住),只需要弄明白一个作为案例,搞清楚它怎么看怎么用就行了,其他的是类似的。其他的当我们在使用中碰到了一个fcntl的不认识的cmd时再去查man手册即可。

3.1.13.2、fcntl的常用cmd
(1)F_DUPFD这个cmd的作用是复制文件描述符(作用类似于dup和dup2),这个命令的功能是从可用的fd数字列表中找一个比arg大或者和arg一样大的数字作为oldfd的一个复制的fd,和dup2有点像但是不同。dup2返回的就是我们指定的那个newfd,否则就会出错,但是F_DUPFD命令返回的是>=arg的最小的那一个数字。 (F_DUPFD,是一个范围指定)。

3.1.13.3、使用fcntl模拟dup2
#include <stdio.h>
#include <sys/types.h>
#include <sys/stat.h>
#include <fcntl.h>
#include <unistd.h>
#define FILENAME    "1.txt"
int main(void)
{
    int fd1 = -1, fd2 = -1;
    
    fd1 = open(FILENAME, O_RDWR | O_CREAT | O_TRUNC, 0644);
    if(fd1 < 0)
    {
        perror("open");
        return -1;
    }
    printf("fd1 = %d.\n",fd1);
    
    close(1);      //关闭这个标准输出
    
    fd2 = fcntl(fd1, F_DUPFD, 0);    //d第三个参数是,你希望分配到的数是大于或等于这个数的。
    printf("fd2 = %d.\n",fd2);      //  1  ,因为大于0,且被释放。和fd2这个文件描述符关联起来了。
    
    while(1)
    {
        write(fd1, "aa", 2);//结论:这是接续写的。
        sleep(1);
        write(fd2, "bb", 2);
    }
    
    close(fd1);
    
    return 0;
}

3.1.14.标准IO库介绍

3.1.14.1、标准IO和文件IO有什么区别
(1)看起来使用时都是函数,但是:标准IO是C库函数,而文件IO是linux系统的API

(2)C语言库函数是由API封装而来的。库函数内部也是通过调用API来完成操作的,但是库函数因为多了一层封装,所以比API要更加好用一些。

(3)库函数比API还有一个优势就是:API在不同的操作系统之间是不能通用的,但是C库函数在不同操作系统中几乎是一样的。所以C库函数具有可移植性而API不具有可移植性。

(4)性能上和易用性上看,C库函数一般要好一些。譬如IO,文件IO是不带缓存的,而标准IO是带缓存的,因此标准IO比文件IO性能要更高。

3.1.14.2、常用标准IO函数介绍( 带缓存特性
(1)常见的标准IO库函数有:fopen、fclose、fwrite、fread、fflush、fseek
3.1.14.3、一个简单的标准IO读写文件实例
#include <stdio.h>
#include <unistd.h>
#include <stdlib.h>
#include <string.h>
//标准IO的操作,带缓存的。
#define FILENAME  "1.txt"
int main(void)
{
    FILE *fp = NULL;
    size_t len = -1;
    int array[10] = {'a', 'b', 'c', 'd', 'e', 'f'};  //数字输出到文件中乱码,可以去查找对应的ASCII码对号入座
    char buf[100] = {0};
    
#if 1
    fp = fopen(FILENAME, "r+");  //返回的是文件的指针
    if(NULL == fp)
    {
        perror("fopen");
        exit(-1);
    }
    printf("fopen success.fp = %p.\n",fp);
    
    
    fseek(fp, 0, SEEK_SET);        //将文件指针移动到开头。
    memset(buf, 0, sizeof(buf));//清空,初始化
    len = fread(buf, 1, 10, fp); //一共读了10个元素到buf,每个元素为1字节
    printf("len = %d.\n",len);
    printf("buf is : [%s].\n",buf);
#endif
    
#if 1
    fp = fopen(FILENAME,"w+");
    if(NULL == fp)
    {
        perror("fopen");
        _exit(-1);
    }
    //读文件
    //len = fwrite(array, 4, 10, fp);//一共读了10个元素,每个元素是int类型的。
    len = fwrite(array, sizeof(int), sizeof(array)/sizeof(array[3]), fp);
    printf("len = %d.\n",len);
#endif
    fclose(fp);
    
    return 0;
}



评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值