系统设计之 网络模型（一）基础篇

全文针对linux环境。tcp/udp两种server种，tcp相对较复杂也相对比较常用。本文就从tcp server开始讲起。先从基本说起，看一个单线程的网络模型，处理流程如下：

socket-->bind-->listen-->[accept-->read-->write-->close]-->close
[]中代码循环运行，[]外的是对监听socket的处理，[]内的是对accept返回的客户socket的处理。这些系统调用的参数以及需要的头文件等，只需要在linux下man就好。

一、注意事项。
（1）包裹宏使用。这些系统调用返回-1表示失败。检测系统调用的返回值是个好习惯，应该说必须检测，如果系统调用总是成功的话，它为何又要有返回值呢？。每次检查的话，代码写起来又很是罗唆，并且容易遗漏检测。使用宏包裹系统调用或者使用包裹函数是不错的方案。下面给出几个预定义包裹宏：

#define NOERROR_FUNC(func,opt) if((func)<0) /
 { /
  printf("Line[%d] error[%d:%s]/n",__LINE__,errno,strerror(errno)); /
  opt; /
 }
#define NOERROR_FUNC_1(func) NOERROR_FUNC(func,return -1)
#define NOERROR_FUNC_NULL(func) NOERROR_FUNC(func,return NULL)
不知道strerror？，刚说了，去linux下:man strerror
以后使用就可以类似于这样：

NOERROR_FUNC_1（(fd=socket(AF_INET,SOCKET_STREAM,0)));
NOERROR_FUNC_1(bind(fd,(struct sockaddr *)&serverAddr,sizeof(struct sockaddr_in)));

(2)不能返回失败的错误。大多数阻塞式系统调用要处理EINTR错误，另accept还要处理ECONNABORTED。与（1）同样道理，预定义宏如下：

#define NOERROR_FUNC_BUT_ERR(func,opt,err,erropt) if((func)<0) /
 { /
  printf("Line[%d] error[%d:%s]/n",__LINE__,errno,strerror(errno)); /
  if(errno==err) { erropt;} /
  else {opt;} /
 }
#define NOERROR_FUNC_BUT_ERR_2(func,opt,err1,err2,erropt) if((func)<0) /
 { /
  printf("Line[%d] error[%d:%s]/n",__LINE__,errno,strerror(errno)); /
  if(errno==err1||errno==err2) { erropt;} /
  else {opt;} /
 }
调用accept的代码就可以如此写：

while(1)
 {
  client_sockfd=accept(fd,(struct sockaddr *)&clientAddr,&lenAddr);
  NOERROR_FUNC_BUT_ERR_2(client_sockfd,retun -1,EINTR,ECONNABORTED,continue);

（3）涉及到系统调用分两类：从用户态到内核态，该类系统调用使用值参数，有：bind/setsockopt/connect；从内核态到用户态,该类系统调用使用值－结果参数，有：accept/getsockopt。
看下两者函数原型，从用户态到内核态：

       int setsockopt(int s, int level, int optname, const void *optval, socklen_t optlen);
       int connect(int sockfd, const struct sockaddr *serv_addr, socklen_t addrlen);
       int bind(int sockfd,struct sockaddr *Addr,socklen_t addrlen);
从内核态到用户态：

    int getsockopt(int s, int level, int optname, void *optval, socklen_t *optlen);
    int accept(int sockfd,struct sockaddr *Addr,socklen_t *addrlen);
看最后一个参数，从用户态到内核态只要告诉内核参数长度的值就可以了，因此是值方式。从内核态到用户态，要事先准备好变量保存内核态返回的结果长度值，因此是指针方式，称之为值－结果参数。

二、系统调用
（1）socket

int fd;
   NOERROR_FUNC_1(fd=socket(AF_INET,SOCKET_STREAM,0));
创建一个ipv4的tcp socket
（2）bind
把socket绑定到一个地址，首先要指明地址，如下：

struct sockaddr_in addr;
addr.sin_family=AF_INET;//协议类型
addr.sin_port=htons(5000);//端口地址
addr.sin_addr.s_addr=htonl(INADDR_ANY);//此处表示任意ip（主机有多个网卡，则将环路地址127.0.0.1以及各网卡ip都指定）。
NOERROR_FUNC_1(bind(fd,(struct sockaddr *)addr,sizeof(struct sockaddr_in)));
创建ipv4协议的地址，使用5000端口，接收任何地址的connect，把该地址和fd绑定。
注意：
1、地址声明的时候使用struct sockaddr_in，使用的时候总是强制转化为struct sockaddr。
2、struct sockaddr_in结构中端口和ip都必须是网络序。htons把主机序的short int转化为网络序，htonl把主机序的long int转化为网络序。
3、除任意ip地址为常量外，一般习惯用点分字符串表示ip地址，而addr.sin_addr.s_addr要使用网络序整型。
因此有两个函数可以在字符串和网络序ip地址之间做转换：

   const char *inet_ntop(int af, const void *src,char *dst, socklen_t cnt);
   int inet_pton(int af, const char *src, void *dst);
这里是需要网络序，因此使用ton（to net）那个函数，比如：

NOERROR_FUNC_1（inet_pton(AF_INET,"172.168.0.45", &addr.sin_addr.s_addr));
（3）setsockopt

long val;
socklen_t len=sizeof(val);
NOERROR_FUNC_1(setsockopt(fd,SOL_SOCKET,SO_REUSEADDR,&(val=1),len));
给socket设置选项，常用的不多，SO_REUSEADDR是一个，服务器一般使用，其它还有SO_RCVBUF，SO_SNDBUF。accept返回的对端socket继承监听socket的发送缓存、接收缓存选项。一般也不需要设置SO_RCVBUF，SO_SNDBUF，默认的足够了，带宽很大的情况下，需要设置，以免其称为瓶颈，貌似默认的是8092字节。哦，还有要在listen前设置。
（4）listen

NOERROR_FUNC_1(listen(fd,SOMAXCONN));
把fd从主动端口变为被动端口，等待client connect。第二个参数是表示三次握手中队列以及完成了三次握手等待accept系统函数来取的队列的相加值，有的系统不是简单相加，还有一个系数，也就是如果设置5，系数是2，那么两个队列的和就是10。如果队列满，而accept没来取（很忙的情况下，来不及调用accept），再有连接来就会被拒绝掉，要想系统能处理超大爆发的连接，就加大这个参数值，加快accept的处理。SOMAXCONN表示取系统允许的最大值。
（5）accept
前面已经举例了，这里就不再列例子了。
阻塞式调用，需要处理EINTR（被信号终止），ECONNABORTED（返回前client异常终止），处理的方式就是重新accept。
（6）read

int read(int fd,char *buf,size_t len);
这是针对文件描述符的一个系统调用，socket也属于文件描述符。tcp协议中传输的数据都是流字节，没有什么结束符的标志，只能由协议提供结束方式，比如http协议使用"/r/n/r/n"或者"/n/n"标识一条信令结束，这样的话，我们只能一个字节一个字节的读取，然后结合已经读取的字节，判断是否应该结束读。而网络模型中要提高性能，一个重要方面就是要减少系统调用的次数。因此tcp中都要使用缓存区一次读取尽可能多的数据，然后再从该缓存区一个字节一个字节的读取，缓存区数据被读完而没有到结束位置的时候，再次调用系统调用read。
返回值为0表示对端正常关闭，大于0表示读取到的字节数。示例见最后例子。
（7）write

int write(int fd,char *buf,size_t len);
两个需要注意的地方：
1、对EINTR处理。防止被信号中断，没有正确写入需求的字符数。
2、signal(SIGPIPE, SIG_IGN);这句代码的意思是忽略SIGPIPE信号。
write写被重置（对端意外关闭）的套接口，产生SIGPIPE信号，不处理的话程序被终止。忽略的话，继续写会产生EPIPE错误，检查write系统调用的返回结果就好了。示例见最后例子。
signal的使用，man下就看到了，回调函数的原型等都有，SIG_IGN也会出现，呵呵。
（8）close就不说了
（9）fcntl
要对socket设置为非阻塞方式，setsockopt没有提供相应的选项，只能用fcntl函数设置。

int flags;
NOERROR_FUNC_1（flags=fcntl(client_sockfd,F_GETFL,0)）；
NOERROR_FUNC_1（fcntl(client_sockfd,F_SETFL,flags|O_NONBLOCK)）;
多路分离I/O(select/poll/epoll)通常设置为非阻塞方式。
设置为阻塞方式（默认方式）代码：

int flags;
NOERROR_FUNC_1（flags=fcntl(client_sockfd,F_GETFL,0)）；
NOERROR_FUNC_1（fcntl(client_sockfd,F_SETFL,flags&~O_NONBLOCK)）;
对于阻塞方式的套接口，如果要避免read write永远阻塞，设置等待时间的方式有3种：信号方式，不推荐，不说了；select方式，每次调用read前调用select监视该套接口是否在指定时间内可写，超时select返回0，这样每次执行read都要调用两个系统调用，不推荐；最后就是设置套接口选项SO_RECVTIMEO和SO_SNDTIMEO,其实这个也不推荐，总之不推荐阻塞式的方式，呵呵。实用的网络模型都是多路分离的。
非阻塞方式下的connect函数要说下，当然是就客户端而言，connect后如果没有立即返回连接成功的话，把这个socket加入select的 fd_set(poll的pollfd，epoll的EPOLL_CTL_ADD操作),要监视是否可写事件，可写的时候用getsockopt获取SO_ERROR选项，如果非负（其实就是0值）就标示connect成功，否则就是失败。

三、示例
最后给个单线程的服务器，虽说没什么实用意义，不过就象“hello world!”，入门第一课。
这个例子，读取数据，回写response，关闭clientfd。不管read write是否出错，都执行close，因此代码很简单。
先来main函数：

int main()
{
    int server_sockfd;
    int client_sockfd;
    struct sockaddr_in serverAddr;
    struct sockaddr_in clientAddr;
    size_t lenAddr;

    memset(&serverAddr,0,sizeof(serverAddr));
    serverAddr.sin_family=AF_INET;
    serverAddr.sin_port=htons(5000);
    serverAddr.sin_addr.s_addr=htonl(INADDR_ANY);

    NOERROR_FUNC_1((server_sockfd=socket(AF_INET,SOCK_STREAM,0)));
       int val;
    socklen_t len=sizeof(val);
    NOERROR_FUNC_1(setsockopt(server_sockfd,SOL_SOCKET,SO_REUSEADDR,&(val=1),&len));
    NOERROR_FUNC_1(bind(server_sockfd,(struct sockaddr *)&serverAddr,sizeof(struct sockaddr_in)));
    NOERROR_FUNC_1(listen(server_sockfd,SOMAXCONN));
 
    const static char * response="HTTP/1.1 200 OK/r/n/r/n";
    char buf[BUF_LEN];
    signal(SIGPIPE, SIG_IGN);
    while(1)
    {
        client_sockfd=accept(server_sockfd,(struct sockaddr *)&clientAddr,&lenAddr);
        NOERROR_FUNC_BUT_ERR_2(client_sockfd,return -1,EINTR,ECONNABORTED,continue);
        BuffCache cache;
        if(read_double_enter(client_sockfd,buf,BUF_LEN,&cache)>0)
            writen(client_sockfd,response,19);
        close(client_sockfd);
    }
    close(server_sockfd);
    return 0;
}
 下面是包含的头文件和宏：

#include <unistd.h>
#include <sys/types.h>
#include <sys/socket.h>
#include <arpa/inet.h>
#include <stdio.h>
#include <errno.h>
#include <signal.h>
#include <stdlib.h>
#include <string.h>
#include <stdarg.h>

#define NOERROR_FUNC(func,opt) if((func)<0) /
    { /
        printf("Line[%d] error[%d:%s]/n",__LINE__,errno,strerror(errno)); /
        opt; /
    }
#define NOERROR_FUNC_BUT_ERR(func,opt,err,erropt) if((func)<0) /
    { /
        printf("Line[%d] error[%d:%s]/n",__LINE__,errno,strerror(errno)); /
        if(errno==err) { erropt;} /
        else {opt;} /
    }
#define NOERROR_FUNC_BUT_ERR_2(func,opt,err1,err2,erropt) if((func)<0) /
    { /
        printf("Line[%d] error[%d:%s]/n",__LINE__,errno,strerror(errno)); /
        if(errno==err1||errno==err2) { erropt;} /
        else {opt;} /
    }

#define NOERROR_FUNC_1(func) NOERROR_FUNC(func,return -1)
#define NOERROR_FUNC_NULL(func) NOERROR_FUNC(func,return NULL)

#define BUF_LEN 1024
下面是缓存区和读写代码： class BuffCache
{
public:
    BuffCache():count(0){}
    int read_socket(int fd,char * pCh)
    {
        if(count<=0)
        {
        again:
            if((count=read(fd,buf,BUF_LEN))<0)
            {
                if(errno==EINTR)
                    goto again;
                *pCh='/0';
                return -1;
            }
            else if(count==0)
            {
                *pCh='/0';
                return 0;
            }
            ptrBuf=buf;
        }
        count--;
        *pCh=*(ptrBuf++);
        return 1;
    }
private:
    char buf[BUF_LEN];
    char * ptrBuf;
    int count;
};
inline int read_double_enter(int fd,char * pCh, int maxsize,BuffCache *cache)
{
    int i=0;
    char *ptr=pCh;
    int res=0;
    int sum=0;
    for(i=0;i<maxsize;i++)
    {
        if((res=cache->read_socket(fd,ptr))<0)
            return -1;
        else if(res==0)
        {
            *ptr='/0';
            return sum;
        }
        else
        {
            if(*ptr=='/n'&&
                ((ptr-pCh>=1&&*(ptr-1)=='/n')||
                (ptr-pCh>=3&&*(ptr-1)=='/r'&&*(ptr-2)=='/n'&&*(ptr-3)=='/r')))
            {
                *(ptr+1)='/0';
                return ++sum;
            }
        }   
        ptr++;
        sum++;
    }
}

inline int writen(int fd,const char * buf, int len)
{
    int count=0;
    int leftlen=len;
    const char * ptr=buf;
    while(leftlen>0)
    {
    again:
        NOERROR_FUNC_BUT_ERR((count=write(fd,ptr,leftlen)),return -1,EINTR,goto again);
        leftlen-=count;
        ptr+=count;
    }
}随便写的一个程序，凑合着看吧。
四、其它基础性知识的说明
（1）read write外 还有recv send recvfrom sendto recvmsg sendmsg不说了
（2）信号处理不说了
（3）多路分离后面讲各种模型的时候详细写
（4）信号方式的多路分离不细说了，在tcp中只能accept除使用信号SIGIO，但是该信号为非可靠信号，当大量client连接到来的时候，经常丢失信号，10并发都支持不了，实在没什么实际意义。