系统调用open的一个不为熟知的秘密

在linux中，打开文件可以使用系统调用open，也可以使用库函数fopen，前者返回的是文件描述符，后者返回的是一个FILE* 的文件指针

在open的man page(系统调用为第二章节)中，open函数有两个，一个参数只有一个，一个有三个参数，最后一个参数为mode。

当你通过下面这个方式使用open 函数时：

int fd = open("test.txt", O_RDWR | O_CREAT | O_APPEND);

使用gcc编译，不会报错，运行，如果文件不存在，会创建文件（这里首先将当前目录中的test.txt文件删除，也就是让我们的程序创建文件），通过ls -l 查看文件如图

test文件的权限不是我们预想的，应该是666 & ~umask 的结果，umask 的值为0002, 所以test 的值是664,（由shell启动的进程继承了shell 的 umask）

使用valgrind检查程序，

出现如下错误
Syscall param open(mode) contains uninitialised byte(s)
Uninitialised value was created by a stack allocation
意思是说open函数出现了未定义的区域，回到我们看的man page，里面在O_CREAT 中有这么一段话

也就说，如果文件不存在，使用O_CREAT会创建该文件，但是需要设置文件的权限，如果没有使用O_CREAT， 文件不会被创建，mode参数也会被忽略

将程序改成如下所示

int fd = open("test.txt", O_RDWR | O_CREAT | O_TRUNC, 0666);

运行程序查看文件属性

代码中设置文件属性为644，umask的值为0002，那么文件属性为664，即rw-rw-r–，此时再使用valgrind检查程序

0个错误，OK。