linux服务器开发三(网络编程)

C/C++ 专栏收录该内容
97 篇文章 1 订阅

转载自:http://www.cnblogs.com/zfc2201/archive/2017/05/04/6804990.html

作者:水之原

网络基础

协议的概念

什么是协议

  • 从应用的角度出发,协议可理解为“规则”,是数据传输和数据的解释的规则。
  • 假设,A、B双方欲传输文件。规定:
  • 第一次,传输文件名,接收方接收到文件名,应答OK给传输方;
  • 第二次,发送文件的尺寸,接收方接收到该数据再次应答一个OK;
  • 第三次,传输文件内容。同样,接收方接收数据完成后应答OK表示文件内容接收成功。
  • 由此,无论A、B之间传递何种文件,都是通过三次数据传输来完成。A、B之间形成了一个最简单的数据传输规则。双方都按此规则发送、接收数据。A、B之间达成的这个相互遵守的规则即为协议。
  • 这种仅在A、B之间被遵守的协议称之为原始协议。当此协议被更多的人采用,不断的增加、改进、维护、完善。最终形成一个稳定的、完整的文件传输协议,被广泛应用于各种文件传输过程中。该协议就成为一个标准协议。最早的ftp协议就是由此衍生而来。
  • TCP协议注重数据的传输。http协议着重于数据的解释。

典型协议

  • 传输层 常见协议有TCP/UDP协议。
  • 应用层 常见的协议有HTTP协议,FTP协议。
  • 网络层 常见协议有IP协议、ICMP协议、IGMP协议。
  • 网络接口层 常见协议有ARP协议、RARP协议。
  • TCP传输控制协议(Transmission Control Protocol)是一种面向连接的、可靠的、基于字节流的传输层通信协议。
  • UDP用户数据报协议(User Datagram Protocol)是OSI参考模型中一种无连接的传输层协议,提供面向事务的简单不可靠信息传送服务。
  • HTTP超文本传输协议(Hyper Text Transfer Protocol)是互联网上应用最为广泛的一种网络协议。
  • FTP文件传输协议(File Transfer Protocol)
  • IP协议是因特网互联协议(Internet Protocol)
  • ICMP协议是Internet控制报文协议(Internet Control Message Protocol)它是TCP/IP协议族的一个子协议,用于在IP主机、路由器之间传递控制消息。
  • IGMP协议是 Internet 组管理协议(Internet Group Management Protocol),是因特网协议家族中的一个组播协议。该协议运行在主机和组播路由器之间。
  • ARP协议是正向地址解析协议(Address Resolution Protocol),通过已知的IP,寻找对应主机的MAC地址。
  • RARP协议是反向地址转换协议,通过MAC地址确定IP地址。

网络应用程序设计模式

C/S模式

  • 传统的网络应用设计模式,客户机(client)/服务器(server)模式。需要在通讯两端各自部署客户机和服务器来完成数据通信。

    B/S模式

  • 浏览器(Browser)/服务器(server)模式。只需在一端部署服务器,而另外一端使用每台PC都默认配置的浏览器即可完成数据的传输。

    优缺点

  • 对于C/S模式来说,其优点明显。客户端位于目标主机上可以保证性能,将数据缓存至客户端本地,从而提高数据传输效率。且,一般来说客户端和服务器程序由一个开发团队创作,所以他们之间所采用的协议相对灵活。可以在标准协议的基础上根据需求裁剪及定制。例如,腾讯公司所采用的通信协议,即为ftp协议的修改剪裁版。
  • 因此,传统的网络应用程序及较大型的网络应用程序都首选C/S模式进行开发。如,知名的网络游戏魔兽世界。3D画面,数据量庞大,使用C/S模式可以提前在本地进行大量数据的缓存处理,从而提高观感。
  • C/S模式的缺点也较突出。由于客户端和服务器都需要有一个开发团队来完成开发。工作量将成倍提升,开发周期较长。另外,从用户角度出发,需要将客户端安插至用户主机上,对用户主机的安全性构成威胁。这也是很多用户不愿使用C/S模式应用程序的重要原因。
  • B/S模式相比C/S模式而言,由于它没有独立的客户端,使用标准浏览器作为客户端,其工作开发量较小。只需开发服务器端即可。另外由于其采用浏览器显示数据,因此移植性非常好,不受平台限制。如早期的偷菜游戏,在各个平台上都可以完美运行。
  • B/S模式的缺点也较明显。由于使用第三方浏览器,因此网络应用支持受限。另外,没有客户端放到对方主机上,缓存数据不尽如人意,从而传输数据量受到限制。应用的观感大打折扣。第三,必须与浏览器一样,采用标准http协议进行通信,协议选择不灵活
  • 因此在开发过程中,模式的选择由上述各自的特点决定。根据实际需求选择应用程序设计模式。

分层模型

OSI七层模型

OSI模型

  • 1.物理层:主要定义物理设备标准,如网线的接口类型、光纤的接口类型、各种传输介质的传输速率等。它的主要作用是传输比特流(就是由1、0转化为电流强弱来进行传输,到达目的地后再转化为1、0,也就是我们常说的数模转换与模数转换)。这一层的数据叫做比特。
  • 2.数据链路层:定义了如何让格式化数据以帧为单位进行传输,以及如何让控制对物理介质的访问。这一层通常还提供错误检测和纠正,以确保数据的可靠传输。如:串口通信中使用到的115200、8、N、1
  • 3.网络层:在位于不同地理位置的网络中的两个主机系统之间提供连接和路径选择。Internet的发展使得从世界各站点访问信息的用户数大大增加,而网络层正是管理这种连接的层。
  • 4.传输层:定义了一些传输数据的协议和端口号(WWW端口80等),如:TCP(传输控制协议,传输效率低,可靠性强,用于传输可靠性要求高,数据量大的数据),UDP(用户数据报协议,与TCP特性恰恰相反,用于传输可靠性要求不高,数据量小的数据,如QQ聊天数据就是通过这种方式传输的)。 主要是将从下层接收的数据进行分段和传输,到达目的地址后再进行重组。常常把这一层数据叫做段。
  • 5.会话层:通过传输层(端口号:传输端口与接收端口)建立数据传输的通路。主要在你的系统之间发起会话或者接受会话请求(设备之间需要互相认识可以是IP也可以是MAC或者是主机名)。
  • 6.表示层:可确保一个系统的应用层所发送的信息可以被另一个系统的应用层读取。例如,PC程序与另一台计算机进行通信,其中一台计算机使用扩展二一十进制交换码(EBCDIC),而另一台则使用美国信息交换标准码(ASCII)来表示相同的字符。如有必要,表示层会通过使用一种通格式来实现多种数据格式之间的转换。
  • 7.应用层:是最靠近用户的OSI层。这一层为用户的应用程序(例如电子邮件、文件传输和终端仿真)提供网络服务。

TCP/IP四层模型

  • TCP/IP网络协议栈分为应用层(Application)、传输层(Transport)、网络层(Network)和链路层(Link)四层。如下图所示:

TCP/IP模型

  • 一般在应用开发过程中,讨论最多的是TCP/IP模型。

通信过程

  • 两台计算机通过TCP/IP协议通讯的过程如下所示:

TCP/IP通信过程

  • 上图对应两台计算机在同一网段中的情况,如果两台计算机在不同的网段中,那么数据从一台计算机到另一台计算机传输过程中要经过一个或多个路由器,如下图所示:

跨路由通信

  • 链路层有以太网、令牌环网等标准,链路层负责网卡设备的驱动、帧同步(即从网线上检测到什么信号算作新帧的开始)、冲突检测(如果检测到冲突就自动重发)、数据差错校验等工作。交换机是工作在链路层的网络设备,可以在不同的链路层网络之间转发数据帧(比如十兆以太网和百兆以太网之间、以太网和令牌环网之间),由于不同链路层的帧格式不同,交换机要将进来的数据包拆掉链路层首部重新封装之后再转发。
  • 网络层的IP协议是构成Internet的基础。Internet上的主机通过IP地址来标识,Inter-net上有大量路由器负责根据IP地址选择合适的路径转发数据包,数据包从Internet上的源主机到目的主机往往要经过十多个路由器。路由器是工作在第三层的网络设备,同时兼有交换机的功能,可以在不同的链路层接口之间转发数据包,因此路由器需要将进来的数据包拆掉网络层和链路层两层首部并重新封装。IP协议不保证传输的可靠性,数据包在传输过程中可能丢失,可靠性可以在上层协议或应用程序中提供支持。
  • 网络层负责点到点(ptop,point-to-point)的传输(这里的“点”指主机或路由器),而传输层负责端到端(etoe,end-to-end)的传输(这里的“端”指源主机和目的主机)。传输层可选择TCP或UDP协议。
  • TCP是一种面向连接的、可靠的协议,有点像打电话,双方拿起电话互通身份之后就建立了连接,然后说话就行了,这边说的话那边保证听得到,并且是按说话的顺序听到的,说完话挂机断开连接。也就是说TCP传输的双方需要首先建立连接,之后由TCP协议保证数据收发的可靠性,丢失的数据包自动重发,上层应用程序收到的总是可靠的数据流,通讯之后关闭连接。
  • UDP是无连接的传输协议,不保证可靠性,有点像寄信,信写好放到邮筒里,既不能保证信件在邮递过程中不会丢失,也不能保证信件寄送顺序。使用UDP协议的应用程序需要自己完成丢包重发、消息排序等工作。
  • 目的主机收到数据包后,如何经过各层协议栈最后到达应用程序呢?其过程如下图所示:

数据包网络传输过程

  • 以太网驱动程序首先根据以太网首部中的“上层协议”字段确定该数据帧的有效载荷(payload,指除去协议首部之外实际传输的数据)是IP、ARP还是RARP协议的数据报,然后交给相应的协议处理。假如是IP数据报,IP协议再根据IP首部中的“上层协议”字段确定该数据报的有效载荷是TCP、UDP、ICMP还是IGMP,然后交给相应的协议处理。假如是TCP段或UDP段,TCP或UDP协议再根据TCP首部或UDP首部的“端口号”字段确定应该将应用层数据交给哪个用户进程。IP地址是标识网络中不同主机的地址,而端口号就是同一台主机上标识不同进程的地址,IP地址和端口号合起来标识网络中唯一的进程。
  • 虽然IP、ARP和RARP数据报都需要以太网驱动程序来封装成帧,但是从功能上划分,ARP和RARP属于链路层,IP属于网络层。虽然ICMP、IGMP、TCP、UDP的数据都需要IP协议来封装成数据报,但是从功能上划分,ICMP、IGMP与IP同属于网络层,TCP和UDP属于传输层。

协议格式

数据包封装

  • 传输层及其以下的机制由内核提供,应用层由用户进程提供(后面将介绍如何使用socket API编写应用程序),应用程序对通讯数据的含义进行解释,而传输层及其以下处理通讯的细节,将数据从一台计算机通过一定的路径发送到另一台计算机。应用层数据通过协议栈发到网络上时,每层协议都要加上一个数据首部(header),称为封装(Encapsulation),如下图所示:

TCP/IP数据包封装

  • 不同的协议层对数据包有不同的称谓,在传输层叫做段(segment),在网络层叫做数据报(datagram),在链路层叫做帧(frame)。数据封装成帧后发到传输介质上,到达目的主机后每层协议再剥掉相应的首部,最后将应用层数据交给应用程序处理。

以太网帧格式

  • 以太网的帧格式如下所示:

以太网帧格式

  • 其中的源地址和目的地址是指网卡的硬件地址(也叫MAC地址),长度是48位,是在网卡出厂时固化的。可在shell中使用ifconfig命令查看,“HWaddr 00:15:F2:14:9E:3F”部分就是硬件地址。协议字段有三种值,分别对应IP、ARP、RARP。帧尾是CRC校验码。
  • 以太网帧中的数据长度规定最小46字节,最大1500字节,ARP和RARP数据包的长度不够46字节,要在后面补填充位。最大值1500称为以太网的最大传输单元(MTU),不同的网络类型有不同的MTU,如果一个数据包从以太网路由到拨号链路上,数据包长度大于拨号链路的MTU,则需要对数据包进行分片(fragmentation)。ifconfig命令输出中也有“MTU:1500”。注意,MTU这个概念指数据帧中有效载荷的最大长度,不包括帧头长度。

ARP数据报格式

  • 在网络通讯时,源主机的应用程序知道目的主机的IP地址和端口号,却不知道目的主机的硬件地址,而数据包首先是被网卡接收到再去处理上层协议的,如果接收到的数据包的硬件地址与本机不符,则直接丢弃。因此在通讯前必须获得目的主机的硬件地址。ARP协议就起到这个作用。源主机发出ARP请求,询问“IP地址是192.168.0.1的主机的硬件地址是多少”,并将这个请求广播到本地网段(以太网帧首部的硬件地址填FF:FF:FF:FF:FF:FF表示广播),目的主机接收到广播的ARP请求,发现其中的IP地址与本机相符,则发送一个ARP应答数据包给源主机,将自己的硬件地址填写在应答包中。

  • 每台主机都维护一个ARP缓存表,可以用arp -a命令查看。缓存表中的表项有过期时间(一般为20分钟),如果20分钟内没有再次使用某个表项,则该表项失效,下次还要发ARP请求来获得目的主机的硬件地址。想一想,为什么表项要有过期时间而不是一直有效?

  • ARP数据报的格式如下所示:

ARP数据报格式

  • 源MAC地址、目的MAC地址在以太网首部和ARP请求中各出现一次,对于链路层为以太网的情况是多余的,但如果链路层是其它类型的网络则有可能是必要的。硬件类型指链路层网络类型,1为以太网,协议类型指要转换的地址类型,0x0800为IP地址,后面两个地址长度对于以太网地址和IP地址分别为6和4(字节),op字段为1表示ARP请求,op字段为2表示ARP应答。

  • 看一个具体的例子。
  • 请求帧如下(为了清晰在每行的前面加了字节计数,每行16个字节):

      以太网首部(14字节)
      0000: ff ff ff ff ff ff 00 05 5d 61 58 a8 08 06
      ARP帧(28字节)
      0000: 00 01
      0010: 08 00 06 04 00 01 00 05 5d 61 58 a8 c0 a8 00 37
      0020: 00 00 00 00 00 00 c0 a8 00 02
      填充位(18字节)
      0020: 00 77 31 d2 50 10
      0030: fd 78 41 d3 00 00 00 00 00 00 00 00
  • 以太网首部:目的主机采用广播地址,源主机的MAC地址是00:05:5d:61:58:a8,上层协议类型0x0806表示ARP。

  • ARP帧:硬件类型0x0001表示以太网,协议类型0x0800表示IP协议,硬件地址(MAC地址)长度为6,协议地址(IP地址)长度为4,op为0x0001表示请求目的主机的MAC地址,源主机MAC地址为00:05:5d:61:58:a8,源主机IP地址为c0 a8 00 37(192.168.0.55),目的主机MAC地址全0待填写,目的主机IP地址为c0 a8 00 02(192.168.0.2)。

  • 由于以太网规定最小数据长度为46字节,ARP帧长度只有28字节,因此有18字节填充位,填充位的内容没有定义,与具体实现相关。

  • 应答帧如下:

      以太网首部
      0000: 00 05 5d 61 58 a8 00 05 5d a1 b8 40 08 06
      ARP帧
      0000: 00 01
      0010: 08 00 06 04 00 02 00 05 5d a1 b8 40 c0 a8 00 02
      0020: 00 05 5d 61 58 a8 c0 a8 00 37
      填充位
      0020: 00 77 31 d2 50 10
      0030: fd 78 41 d3 00 00 00 00 00 00 00 00
  • 以太网首部:目的主机的MAC地址是00:05:5d:61:58:a8,源主机的MAC地址是00:05:5d:a1:b8:40,上层协议类型0x0806表示ARP。

  • ARP帧:硬件类型0x0001表示以太网,协议类型0x0800表示IP协议,硬件地址(MAC地址)长度为6,协议地址(IP地址)长度为4,op为0x0002表示应答,源主机MAC地址为00:05:5d:a1:b8:40,源主机IP地址为c0 a8 00 02(192.168.0.2),目的主机MAC地址为00:05:5d:61:58:a8,目的主机IP地址为c0 a8 00 37(192.168.0.55)。

  • 思考题:如果源主机和目的主机不在同一网段,ARP请求的广播帧无法穿过路由器,源主机如何与目的主机通信?

IP段格式

IP数据报格式

  • IP数据报的首部长度和数据长度都是可变长的,但总是4字节的整数倍。对于IPv4,4位版本字段是4。4位首部长度的数值是以4字节为单位的,最小值为5,也就是说首部长度最小是4x5=20字节,也就是不带任何选项的IP首部,4位能表示的最大值是15,也就是说首部长度最大是60字节。8位TOS字段有3个位用来指定IP数据报的优先级(目前已经废弃不用),还有4个位表示可选的服务类型(最小延迟、最大?吐量、最大可靠性、最小成本),还有一个位总是0。总长度是整个数据报(包括IP首部和IP层payload)的字节数。每传一个IP数据报,16位的标识加1,可用于分片和重新组装数据报。3位标志和13位片偏移用于分片。TTL(Time to live)是这样用的:源主机为数据包设定一个生存时间,比如64,每过一个路由器就把该值减1,如果减到0就表示路由已经太长了仍然找不到目的主机的网络,就丢弃该包,因此这个生存时间的单位不是秒,而是跳(hop)。协议字段指示上层协议是TCP、UDP、ICMP还是IGMP。然后是校验和,只校验IP首部,数据的校验由更高层协议负责。IPv4的IP地址长度为32位。

  • 想一想,前面讲了以太网帧中的最小数据长度为46字节,不足46字节的要用填充字节补上,那么如何界定这46字节里前多少个字节是IP、ARP或RARP数据报而后面是填充字节?

UDP数据报格式

UDP数据段

  • 下面分析一帧基于UDP的TFTP协议帧。

      以太网首部
      0000: 00 05 5d 67 d0 b1 00 05 5d 61 58 a8 08 00
      IP首部
      0000: 45 00
      0010: 00 53 93 25 00 00 80 11 25 ec c0 a8 00 37 c0 a8
      0020: 00 01
      UDP首部
      0020: 05 d4 00 45 00 3f ac 40
      TFTP协议
      0020: 00 01 'c'':''\''q'
      0030: 'w''e''r''q''.''q''w''e'00 'n''e''t''a''s''c''i'
      0040: 'i'00 'b''l''k''s''i''z''e'00 '5''1''2'00 't''i'
      0050: 'm''e''o''u''t'00 '1''0'00 't''s''i''z''e'00 '0'
      0060: 00以太网首部:源MAC地址是00:05:5d:61:58:a8,目的MAC地址是00:05:5d:67:d0:b1,上层协议类型0x0800表示IP。
  • IP首部:每一个字节0x45包含4位版本号和4位首部长度,版本号为4,即IPv4,首部长度为5,说明IP首部不带有选项字段。服务类型为0,没有使用服务。16位总长度字段(包括IP首部和IP层payload的长度)为0x0053,即83字节,加上以太网首部14字节可知整个帧长度是97字节。IP报标识是0x9325,标志字段和片偏移字段设置为0x0000,就是DF=0允许分片,MF=0此数据报没有更多分片,没有分片偏移。TTL是0x80,也就是128。上层协议0x11表示UDP协议。IP首部校验和为0x25ec,源主机IP是c0 a8 00 37(192.168.0.55),目的主机IP是c0 a8 00 01(192.168.0.1)。

  • UDP首部:源端口号0x05d4(1492)是客户端的端口号,目的端口号0x0045(69)是TFTP服务的well-known端口号。UDP报长度为0x003f,即63字节,包括UDP首部和UDP层pay-load的长度。UDP首部和UDP层payload的校验和为0xac40。

  • TFTP是基于文本的协议,各字段之间用字节0分隔,开头的00 01表示请求读取一个文件,接下来的各字段是:

      c:\qwerq.qwe
      netascii
      blksize 512
      timeout 10
      tsize 0
  • 一般的网络通信都是像TFTP协议这样,通信的双方分别是客户端和服务器,客户端主动发起请求(上面的例子就是客户端发起的请求帧),而服务器被动地等待、接收和应答请求。客户端的IP地址和端口号唯一标识了该主机上的TFTP客户端进程,服务器的IP地址和端口号唯一标识了该主机上的TFTP服务进程,由于客户端是主动发起请求的一方,它必须知道服务器的IP地址和TFTP服务进程的端口号,所以,一些常见的网络协议有默认的服务器端口,例如HTTP服务默认TCP协议的80端口,FTP服务默认TCP协议的21端口,TFTP服务默认UDP协议的69端口(如上例所示)。在使用客户端程序时,必须指定服务器的主机名或IP地址,如果不明确指定端口号则采用默认端口,请读者查阅ftp、tftp等程序的man page了解如何指定端口号。/etc/services中列出了所有well-known的服务端口和对应的传输层协议,这是由IANA(Internet Assigned Numbers Authority)规定的,其中有些服务既可以用TCP也可以用UDP,为了清晰,IANA规定这样的服务采用相同的TCP或UDP默认端口号,而另外一些TCP和UDP的相同端口号却对应不同的服务。

  • 很多服务有well-known的端口号,然而客户端程序的端口号却不必是well-known的,往往是每次运行客户端程序时由系统自动分配一个空闲的端口号,用完就释放掉,称为ephemeral的端口号,想想这是为什么?

  • 前面提过,UDP协议不面向连接,也不保证传输的可靠性,例如:

  • 发送端的UDP协议层只管把应用层传来的数据封装成段交给IP协议层就算完成任务了,如果因为网络故障该段无法发到对方,UDP协议层也不会给应用层返回任何错误信息。

  • 接收端的UDP协议层只管把收到的数据根据端口号交给相应的应用程序就算完成任务了,如果发送端发来多个数据包并且在网络上经过不同的路由,到达接收端时顺序已经错乱了,UDP协议层也不保证按发送时的顺序交给应用层。

  • 通常接收端的UDP协议层将收到的数据放在一个固定大小的缓冲区中等待应用程序来提取和处理,如果应用程序提取和处理的速度很慢,而发送端发送的速度很快,就会丢失数据包,UDP协议层并不报告这种错误。

  • 因此,使用UDP协议的应用程序必须考虑到这些可能的问题并实现适当的解决方案,例如等待应答、超时重发、为数据包编号、流量控制等。一般使用UDP协议的应用程序实现都比较简单,只是发送一些对可靠性要求不高的消息,而不发送大量的数据。例如,基于UDP的TFTP协议一般只用于传送小文件(所以才叫trivial的ftp),而基于TCP的FTP协议适用于 各种文件的传输。TCP协议又是如何用面向连接的服务来代替应用程序解决传输的可靠性问题呢。

TCP数据报格式

TCP数据段

  • 与UDP协议一样也有源端口号和目的端口号,通讯的双方由IP地址和端口号标识。32位序号、32位确认序号、窗口大小稍后详细解释。4位首部长度和IP协议头类似,表示TCP协议头的长度,以4字节为单位,因此TCP协议头最长可以是4x15=60字节,如果没有选项字段,TCP协议头最短20字节。URG、ACK、PSH、RST、SYN、FIN是六个控制位,本节稍后将解释SYN、ACK、FIN、RST四个位,其它位的解释从略。16位检验和将TCP协议头和数据都计算在内。紧急指针和各种选项的解释从略。

TCP协议

TCP通信时序

  • 下图是一次TCP通讯的时序图。TCP连接建立断开。包含大家熟知的三次握手和四次握手。

TCP通讯时序

  • 在这个例子中,首先客户端主动发起连接、发送请求,然后服务器端响应请求,然后客户端主动关闭连接。两条竖线表示通讯的两端,从上到下表示时间的先后顺序,注意,数据从一端传到网络的另一端也需要时间,所以图中的箭头都是斜的。双方发送的段按时间顺序编号为1-10,各段中的主要信息在箭头上标出,例如段2的箭头上标着SYN, 8000(0), ACK1001, ,表示该段中的SYN位置1,32位序号是8000,该段不携带有效载荷(数据字节数为0),ACK位置1,32位确认序号是1001,带有一个mss(Maximum Segment Size,最大报文长度)选项值为1024。

  • 建立连接(三次握手)的过程:

    • 1、客户端发送一个带SYN标志的TCP报文到服务器。这是三次握手过程中的段1。
      客户端发出段1,SYN位表示连接请求。序号是1000,这个序号在网络通讯中用作临时的地址,每发一个数据字节,这个序号要加1,这样在接收端可以根据序号排出数据包的正确顺序,也可以发现丢包的情况,另外,规定SYN位和FIN位也要占一个序号,这次虽然没发数据,但是由于发了SYN位,因此下次再发送应该用序号1001。mss表示最大段尺寸,如果一个段太大,封装成帧后超过了链路层的最大帧长度,就必须在IP层分片,为了避免这种情况,客户端声明自己的最大段尺寸,建议服务器端发来的段不要超过这个长度。

    • 2、服务器端回应客户端,是三次握手中的第2个报文段,同时带ACK标志和SYN标志。它表示对刚才客户端SYN的回应;同时又发送SYN给客户端,询问客户端是否准备好进行数据通讯。
      服务器发出段2,也带有SYN位,同时置ACK位表示确认,确认序号是1001,表示“我接收到序号1000及其以前所有的段,请你下次发送序号为1001的段”,也就是应答了客户端的连接请求,同时也给客户端发出一个连接请求,同时声明最大尺寸为1024。

    • 3、客户必须再次回应服务器端一个ACK报文,这是报文段3。
      客户端发出段3,对服务器的连接请求进行应答,确认序号是8001。在这个过程中,客户端和服务器分别给对方发了连接请求,也应答了对方的连接请求,其中服务器的请求和应答在一个段中发出,因此一共有三个段用于建立连接,称为“三方握手(three-way-handshake)”。在建立连接的同时,双方协商了一些信息,例如双方发送序号的初始值、最大段尺寸等。

    • 在TCP通讯中,如果一方收到另一方发来的段,读出其中的目的端口号,发现本机并没有任何进程使用这个端口,就会应答一个包含RST位的段给另一方。例如,服务器并没有任何进程使用8080端口,我们却用telnet客户端去连接它,服务器收到客户端发来的SYN段就会应答一个RST段,客户端的telnet程序收到RST段后报告错误Connection refused:

        $ telnet 192.168.0.200 8080
        Trying 192.168.0.200...
        telnet: Unable to connect to remote host: Connection refused
  • 数据传输的过程:
    • 1、客户端发出段4,包含从序号1001开始的20个字节数据。
    • 2、服务器发出段5,确认序号为1021,对序号为1001-1020的数据表示确认收到,同时请求发送序号1021开始的数据,服务器在应答的同时也向客户端发送从序号8001开始的10个字节数据,这称为piggyback。
    • 3、客户端发出段6,对服务器发来的序号为8001-8010的数据表示确认收到,请求发送序号8011开始的数据。
    • 在数据传输过程中,ACK和确认序号是非常重要的,应用程序交给TCP协议发送的数据会暂存在TCP层的发送缓冲区中,发出数据包给对方之后,只有收到对方应答的ACK段才知道该数据包确实发到了对方,可以从发送缓冲区中释放掉了,如果因为网络故障丢失了数据包或者丢失了对方发回的ACK段,经过等待超时后TCP协议自动将发送缓冲区中的数据包重发。
  • 关闭连接(四次握手)的过程:
    • 由于TCP连接是全双工的,因此每个方向都必须单独进行关闭。这原则是当一方完成它的数据发送任务后就能发送一个FIN来终止这个方向的连接。收到一个 FIN只意味着这一方向上没有数据流动,一个TCP连接在收到一个FIN后仍能发送数据。首先进行关闭的一方将执行主动关闭,而另一方执行被动关闭。
    • 1、客户端发出段7,FIN位表示关闭连接的请求。
    • 2、服务器发出段8,应答客户端的关闭连接请求。
    • 3、服务器发出段9,其中也包含FIN位,向客户端发送关闭连接请求。
    • 4、客户端发出段10,应答服务器的关闭连接请求。
    • 建立连接的过程是三方握手,而关闭连接通常需要4个段,服务器的应答和关闭连接请求通常不合并在一个段中,因为有连接半关闭的情况,这种情况下客户端关闭连接之后就不能再发送数据给服务器了,但是服务器还可以发送数据给客户端,直到服务器也关闭连接为止。

滑动窗口 (TCP流量控制)

  • 介绍UDP时我们描述了这样的问题:如果发送端发送的速度较快,接收端接收到数据后处理的速度较慢,而接收缓冲区的大小是固定的,就会丢失数据。TCP协议通过“滑动窗口(Sliding Window)”机制解决这一问题。看下图的通讯过程:

滑动窗口

  • 1、发送端发起连接,声明最大段尺寸是1460,初始序号是0,窗口大小是4K,表示“我的接收缓冲区还有4K字节空闲,你发的数据不要超过4K”。接收端应答连接请求,声明最大段尺寸是1024,初始序号是8000,窗口大小是6K。发送端应答,三方握手结束。
  • 2、发送端发出段4-9,每个段带1K的数据,发送端根据窗口大小知道接收端的缓冲区满了,因此停止发送数据。
  • 3、接收端的应用程序提走2K数据,接收缓冲区又有了2K空闲,接收端发出段10,在应答已收到6K数据的同时声明窗口大小为2K。
  • 4、接收端的应用程序又提走2K数据,接收缓冲区有4K空闲,接收端发出段11,重新声明窗口大小为4K。
  • 5、发送端发出段12-13,每个段带2K数据,段13同时还包含FIN位。
  • 6、接收端应答接收到的2K数据(6145-8192),再加上FIN位占一个序号8193,因此应答序号是8194,连接处于半关闭状态,接收端同时声明窗口大小为2K。
  • 7、接收端的应用程序提走2K数据,接收端重新声明窗口大小为4K。
  • 8、接收端的应用程序提走剩下的2K数据,接收缓冲区全空,接收端重新声明窗口大小为6K。
  • 9、接收端的应用程序在提走全部数据后,决定关闭连接,发出段17包含FIN位,发送端应答,连接完全关闭。

  • 上图在接收端用小方块表示1K数据,实心的小方块表示已接收到的数据,虚线框表示接收缓冲区,因此套在虚线框中的空心小方块表示窗口大小,从图中可以看出,随着应用程序提走数据,虚线框是向右滑动的,因此称为滑动窗口。

  • 从这个例子还可以看出,发送端是一K一K地发送数据,而接收端的应用程序可以两K两K地提走数据,当然也有可能一次提走3K或6K数据,或者一次只提走几个字节的数据。也就是说,应用程序所看到的数据是一个整体,或说是一个流(stream),在底层通讯中这些数据可能被拆成很多数据包来发送,但是一个数据包有多少字节对应用程序是不可见的,因此TCP协议是面向流的协议。而UDP是面向消息的协议,每个UDP段都是一条消息,应用程序必须以消息为单位提取数据,不能一次提取任意字节的数据,这一点和TCP是很不同的。

TCP状态转换

  • 这个图N多人都知道,它排除和定位网络或系统故障时大有帮助,但是怎样牢牢地将这张图刻在脑中呢?那么你就一定要对这张图的每一个状态,及转换的过程有深刻的认识,不能只停留在一知半解之中。下面对这张图的11种状态详细解析一下,以便加强记忆!不过在这之前,先回顾一下TCP建立连接的三次握手过程,以及 关闭连接的四次握手过程。

TCP状态转换图

  • CLOSED:表示初始状态。

  • LISTEN:该状态表示服务器端的某个SOCKET处于监听状态,可以接受连接。

  • SYN_SENT:这个状态与SYN_RCVD遥相呼应,当客户端SOCKET执行CONNECT连接时,它首先发送SYN报文,随即进入到了SYN_SENT状态,并等待服务端的发送三次握手中的第2个报文。SYN_SENT状态表示客户端已发送SYN报文。

  • SYN_RCVD: 该状态表示接收到SYN报文,在正常情况下,这个状态是服务器端的SOCKET在建立TCP连接时的三次握手会话过程中的一个中间状态,很短暂。此种状态时,当收到客户端的ACK报文后,会进入到ESTABLISHED状态。

  • ESTABLISHED:表示连接已经建立。

  • FIN_WAIT_1: FIN_WAIT_1和FIN_WAIT_2状态的真正含义都是表示等待对方的FIN报文。区别是:
    • FIN_WAIT_1状态是当socket在ESTABLISHED状态时,想主动关闭连接,向对方发送了FIN报文,此时该socket进入到FIN_WAIT_1状态。
    • FIN_WAIT_2状态是当对方回应ACK后,该socket进入到FIN_WAIT_2状态,正常情况下,对方应马上回应ACK报文,所以FIN_WAIT_1状态一般较难见到,而FIN_WAIT_2状态可用netstat看到。
  • FIN_WAIT_2:主动关闭链接的一方,发出FIN收到ACK以后进入该状态。称之为半连接或半关闭状态。该状态下的socket只能接收数据,不能发。

  • TIME_WAIT: 表示收到了对方的FIN报文,并发送出了ACK报文,等2MSL后即可回到CLOSED可用状态。如果FIN_WAIT_1状态下,收到对方同时带 FIN标志和ACK标志的报文时,可以直接进入到TIME_WAIT状态,而无须经过FIN_WAIT_2状态。

  • CLOSING: 这种状态较特殊,属于一种较罕见的状态。正常情况下,当你发送FIN报文后,按理来说是应该先收到(或同时收到)对方的 ACK报文,再收到对方的FIN报文。但是CLOSING状态表示你发送FIN报文后,并没有收到对方的ACK报文,反而却也收到了对方的FIN报文。什么情况下会出现此种情况呢?如果双方几乎在同时close一个SOCKET的话,那么就出现了双方同时发送FIN报文的情况,也即会出现CLOSING状态,表示双方都正在关闭SOCKET连接。

  • CLOSE_WAIT: 此种状态表示在等待关闭。当对方关闭一个SOCKET后发送FIN报文给自己,系统会回应一个ACK报文给对方,此时则进入到CLOSE_WAIT状态。接下来呢,察看是否还有数据发送给对方,如果没有可以 close这个SOCKET,发送FIN报文给对方,即关闭连接。所以在CLOSE_WAIT状态下,需要关闭连接。

  • LAST_ACK: 该状态是被动关闭一方在发送FIN报文后,最后等待对方的ACK报文。当收到ACK报文后,即可以进入到CLOSED可用状态。

半关闭

  • 当TCP链接中A发送FIN请求关闭,B端回应ACK后(A端进入FIN_WAIT_2状态),B没有立即发送FIN给A时,A方处在半链接状态,此时A可以接收B发送的数据,但是A已不能再向B发送数据。

  • 从程序的角度,可以使用API来控制实现半连接状态。

      #include <sys/socket.h>
      int shutdown(int sockfd, int how);
      sockfd: 需要关闭的socket的描述符
      how:    允许为shutdown操作选择以下几种方式:
          SHUT_RD(0): 关闭sockfd上的读功能,此选项将不允许sockfd进行读操作。
                          该套接字不再接受数据,任何当前在套接字接受缓冲区的数据将被无声的丢弃掉。
          SHUT_WR(1):     关闭sockfd的写功能,此选项将不允许sockfd进行写操作。进程不能在对此套接字发出写操作。
          SHUT_RDWR(2):   关闭sockfd的读写功能。相当于调用shutdown两次:首先是以SHUT_RD,然后以SHUT_WR。
  • 使用close中止一个连接,但它只是减少描述符的引用计数,并不直接关闭连接,只有当描述符的引用计数为0时才关闭连接。

  • shutdown不考虑描述符的引用计数,直接关闭描述符。也可选择中止一个方向的连接,只中止读或只中止写。

  • 注意:
    • 1、如果有多个进程共享一个套接字,close每被调用一次,计数减1,直到计数为0时,也就是所用进程都调用了close,套接字将被释放。
    • 2、在多进程中如果一个进程调用了shutdown(sfd, SHUT_RDWR)后,其它的进程将无法进行通信。但,如果一个进程close(sfd)将不会影响到其它进程。

2MSL

  • 2MSL (Maximum Segment Lifetime) TIME_WAIT状态的存在有两个理由:
    • (1)让4次握手关闭流程更加可靠;4次握手的最后一个ACK是是由主动关闭方发送出去的,若这个ACK丢失,被动关闭方会再次发一个FIN过来。若主动关闭方能够保持一个2MSL的TIME_WAIT状态,则有更大的机会让丢失的ACK被再次发送出去。
    • (2)防止lost duplicate对后续新建正常链接的传输造成破坏。lost uplicate在实际的网络中非常常见,经常是由于路由器产生故障,路径无法收敛,导致一个packet在路由器A,B,C之间做类似死循环的跳转。IP头部有个TTL,限制了一个包在网络中的最大跳数,因此这个包有两种命运,要么最后TTL变为0,在网络中消失;要么TTL在变为0之前路由器路径收敛,它凭借剩余的TTL跳数终于到达目的地。但非常可惜的是TCP通过超时重传机制在早些时候发送了一个跟它一模一样的包,并先于它达到了目的地,因此它的命运也就注定被TCP协议栈抛弃。
  • 另外一个概念叫做incarnation connection,指跟上次的socket pair一摸一样的新连接,叫做incarnation of previous connection。lost uplicate加上incarnation connection,则会对我们的传输造成致命的错误。

  • TCP是流式的,所有包到达的顺序是不一致的,依靠序列号由TCP协议栈做顺序的拼接;假设一个incarnation connection这时收到的seq=1000, 来了一个lost duplicate为seq=1000,len=1000, 则TCP认为这个lost duplicate合法,并存放入了receive buffer,导致传输出现错误。通过一个2MSL TIME_WAIT状态,确保所有的lost duplicate都会消失掉,避免对新连接造成错误。

  • 该状态为什么设计在主动关闭这一方
    • (1)发最后ACK的是主动关闭一方。
    • (2)只要有一方保持TIME_WAIT状态,就能起到避免incarnation connection在2MSL内的重新建立,不需要两方都有。
  • 如何正确对待2MSL TIME_WAIT?

  • RFC要求socket pair在处于TIME_WAIT时,不能再起一个incarnation connection。但绝大部分TCP实现,强加了更为严格的限制。在2MSL等待期间,socket中使用的本地端口在默认情况下不能再被使用。

  • 若A 10.234.5.5 : 1234和B 10.55.55.60 : 6666建立了连接,A主动关闭,那么在A端只要port为1234,无论对方的port和ip是什么,都不允许再起服务。这甚至比RFC限制更为严格,RFC仅仅是要求socket pair不一致,而实现当中只要这个port处于TIME_WAIT,就不允许起连接。这个限制对主动打开方来说是无所谓的,因为一般用的是临时端口;但对于被动打开方,一般是server,就悲剧了,因为server一般是熟知端口。比如http,一般端口是80,不可能允许这个服务在2MSL内不能起来。

  • 解决方案是给服务器的socket设置SO_REUSEADDR选项,这样的话就算熟知端口处于TIME_WAIT状态,在这个端口上依旧可以将服务启动。当然,虽然有了SO_REUSEADDR选项,但sockt pair这个限制依旧存在。比如上面的例子,A通过SO_REUSEADDR选项依旧在1234端口上起了监听,但这时我们若是从B通过6666端口去连它,TCP协议会告诉我们连接失败,原因为Address already in use.

  • RFC 793中规定MSL为2分钟,实际应用中常用的是30秒,1分钟和2分钟等。

  • RFC (Request For Comments),是一系列以编号排定的文件。收集了有关因特网相关资讯,以及UNIX和因特网社群的软件文件。

程序设计中的问题

  • 做一个测试,首先启动server,然后启动client,用Ctrl-C终止server,马上再运行server,运行结果:

      itcast$ ./server
      bind error: Address already in use 
  • 这是因为,虽然server的应用程序终止了,但TCP协议层的连接并没有完全断开,因此不能再次监听同样的server端口。我们用netstat命令查看一下:

itcast$ netstat -apn |grep 6666
tcp 1 0 192.168.1.11:38103 192.168.1.11:6666 CLOSE_WAIT 3525/client
tcp 0 0 192.168.1.11:6666 192.168.1.11:38103 FIN_WAIT2 -

  • server终止时,socket描述符会自动关闭并发FIN段给client,client收到FIN后处于CLOSE_WAIT状态,但是client并没有终止,也没有关闭socket描述符,因此不会发FIN给server,因此server的TCP连接处于FIN_WAIT2状态。

  • 现在用Ctrl-C把client也终止掉,再观察现象:
    itcast$ netstat -apn |grep 6666
    tcp 0 0 192.168.1.11:6666 192.168.1.11:38104 TIME_WAIT -
    itcast$ ./server
    bind error: Address already in use

  • client终止时自动关闭socket描述符,server的TCP连接收到client发的FIN段后处于TIME_WAIT状态。TCP协议规定,主动关闭连接的一方要处于TIME_WAIT状态,等待两个MSL(maximum segment lifetime)的时间后才能回到CLOSED状态,因为我们先Ctrl-C终止了server,所以server是主动关闭连接的一方,在TIME_WAIT期间仍然不能再次监听同样的server端口。

  • MSL在RFC 1122中规定为两分钟,但是各操作系统的实现不同,在Linux上一般经过半分钟后就可以再次启动server了。至于为什么要规定TIME_WAIT的时间,可参考UNP 2.7节。

端口复用

  • 在server的TCP连接没有完全断开之前不允许重新监听是不合理的。因为,TCP连接没有完全断开指的是connfd(127.0.0.1:6666)没有完全断开,而我们重新监听的是lis-tenfd(0.0.0.0:6666),虽然是占用同一个端口,但IP地址不同,connfd对应的是与某个客户端通讯的一个具体的IP地址,而listenfd对应的是wildcard address。解决这个问题的方法是使用setsockopt()设置socket描述符的选项SO_REUSEADDR为1,表示允许创建端口号相同但IP地址不同的多个socket描述符。

  • 在server代码的socket()和bind()调用之间插入如下代码:
    int opt = 1;
    setsockopt(listenfd, SOL_SOCKET, SO_REUSEADDR, &opt, sizeof(opt));
  • 有关setsockopt可以设置的其它选项请参考UNP第7章。

TCP异常断开

心跳检测机制

  • 在TCP网络通信中,经常会出现客户端和服务器之间的非正常断开,需要实时检测查询链接状态。常用的解决方法就是在程序中加入心跳机制。

  • Heart-Beat线程

  • 这个是最常用的简单方法。在接收和发送数据时个人设计一个守护进程(线程),定时发送Heart-Beat包,客户端/服务器收到该小包后,立刻返回相应的包即可检测对方是否实时在线。

  • 该方法的好处是通用,但缺点就是会改变现有的通讯协议!大家一般都是使用业务层心跳来处理,主要是灵活可控。

  • UNIX网络编程不推荐使用SO_KEEPALIVE来做心跳检测,还是在业务层以心跳包做检测比较好,也方便控制。

设置TCP属性

  • SO_KEEPALIVE 保持连接检测对方主机是否崩溃,避免(服务器)永远阻塞于TCP连接的输入。设置该选项后,如果2小时内在此套接口的任一方向都没有数据交换,TCP就自动给对方发一个保持存活探测分节(keepalive probe)。这是一个对方必须响应的TCP分节.它会导致以下三种情况:对方接收一切正常:以期望的ACK响应。2小时后,TCP将发出另一个探测分节。对方已崩溃且已重新启动:以RST响应。套接口的待处理错误被置为ECONNRESET,套接 口本身则被关闭。对方无任何响应:源自berkeley的TCP发送另外8个探测分节,相隔75秒一个,试图得到一个响应。在发出第一个探测分节11分钟 15秒后若仍无响应就放弃。套接口的待处理错误被置为ETIMEOUT,套接口本身则被关闭。如ICMP错误是“host unreachable(主机不可达)”,说明对方主机并没有崩溃,但是不可达,这种情况下待处理错误被置为EHOSTUNREACH。

  • 根据上面的介绍我们可以知道对端以一种非优雅的方式断开连接的时候,我们可以设置SO_KEEPALIVE属性使得我们在2小时以后发现对方的TCP连接是否依然存在。
    keepAlive = 1;
    setsockopt(listenfd, SOL_SOCKET, SO_KEEPALIVE, (void*)&keepAlive, sizeof(keepAlive));

  • 如果我们不能接受如此之长的等待时间,从TCP-Keepalive-HOWTO上可以知道一共有两种方式可以设置,一种是修改内核关于网络方面的 配置参数,另外一种就是SOL_TCP字段的TCP_KEEPIDLE, TCP_KEEPINTVL, TCP_KEEPCNT三个选项。
  • 1.The tcp_keepidle parameter specifies the interval of inactivity that causes TCP to generate a KEEPALIVE transmission for an application that requests them. tcp_keepidle defaults to 14400 (two hours).

      /*开始首次KeepAlive探测前的TCP空闭时间 */
  • 2.The tcp_keepintvl parameter specifies the interval between the nine retriesthat are attempted if a KEEPALIVE transmission is not acknowledged. tcp_keep ntvldefaults to 150 (75 seconds).

      /* 两次KeepAlive探测间的时间间隔 */
  • 3.The tcp_keepcnt option specifies the maximum number of keepalive probes tobe sent. The value of TCP_KEEPCNT is an integer value between 1 and n, where n s the value of the systemwide tcp_keepcnt parameter.

      /* 判定断开前的KeepAlive探测次数*/
    
      int keepIdle = 1000;
      int keepInterval = 10;
      int keepCount = 10;
    
      Setsockopt(listenfd, SOL_TCP, TCP_KEEPIDLE, (void *)&keepIdle, sizeof(keepIdle));
      Setsockopt(listenfd, SOL_TCP,TCP_KEEPINTVL, (void *)&keepInterval, sizeof(keepInterval));
      Setsockopt(listenfd,SOL_TCP, TCP_KEEPCNT, (void *)&keepCount, sizeof(keepCount));
  • SO_KEEPALIVE设置空闲2小时才发送一个“保持存活探测分节”,不能保证实时检测。对于判断网络断开时间太长,对于需要及时响应的程序不太适应。

  • 当然也可以修改时间间隔参数,但是会影响到所有打开此选项的套接口!关联了完成端口的socket可能会忽略掉该套接字选项。

网络名词术语解析

路由(route)

  • 路由(名词)
    • 数据包从源地址到目的地址所经过的路径,由一系列路由节点组成。
  • 路由(动词)
    • 某个路由节点为数据包选择投递方向的选路过程。

路由器工作原理

  • 路由器(Router)是连接因特网中各局域网、广域网的设备,它会根据信道的情况自动选择和设定路由,以最佳路径,按前后顺序发送信号的设备。

  • 传统地,路由器工作于OSI七层协议中的第三层,其主要任务是接收来自一个网络接口的数据包,根据其中所含的目的地址,决定转发到下一个目的地址。因此,路由器首先得在转发路由表中查找它的目的地址,若找到了目的地址,就在数据包的帧格前添加下一个MAC地址,同时IP数据包头的TTL(Time To Live)域也开始减数, 并重新计算校验和。当数据包被送到输出端口时,它需要按顺序等待,以便被传送到输出链路上。

  • 路由器在工作时能够按照某种路由通信协议查找设备中的路由表。如果到某一特定节点有一条以上的路径,则基本预先确定的路由准则是选择最优(或最经济)的传输路径。由于各种网络段和其相互连接情况可能会因环境变化而变化,因此路由情况的信息一般也按所使用的路由信息协议的规定而定时更新。

  • 网络中,每个路由器的基本功能都是按照一定的规则来动态地更新它所保持的路由表,以便保持路由信息的有效性。为了便于在网络间传送报文,路由器总是先按照预定的规则把较大的数据分解成适当大小的数据包,再将这些数据包分别通过相同或不同路径发送出去。当这些数据包按先后秩序到达目的地后,再把分解的数据包按照一定顺序包装成原有的报文形式。路由器的分层寻址功能是路由器的重要功能之一,该功能可以帮助具有很多节点站的网络来存储寻址信息,同时还能在网络间截获发送到远地网段的报文,起转发作用;选择最合理的路由,引导通信也是路由器基本功能;多协议路由器还可以连接使用不同通信协议的网络段,成为不同通信协议网络段之间的通信平台。

  • 路由和交换之间的主要区别就是交换发生在OSI参考模型第二层(数据链路层),而路由发生在第三层,即网络层。这一区别决定了路由和交换在移动信息的过程 中需使用不同的控制信息,所以两者实现各自功能的方式是不同的。

路由表(Routing Table)

  • 在计算机网络中,路由表或称路由择域信息库(RIB)是一个存储在路由器或者联网计算机中的电子表格(文件)或类数据库。路由表存储着指向特定网络地址的路径。

路由条目

  • 路由表中的一行,每个条目主要由目的网络地址、子网掩码、下一跳地址、发送接口四部分组成,如果要发送的数据包的目的网络地址匹配路由表中的某一行,就按规定的接口发送到下一跳地址。

缺省路由条目

  • 路由表中的最后一行,主要由下一跳地址和发送接口两部分组成,当目的地址与路由表中其它行都不匹配时,就按缺省路由条目规定的接口发送到下一跳地址。

路由节点

  • 一个具有路由能力的主机或路由器,它维护一张路由表,通过查询路由表来决定向哪个接口发送数据包。

以太网交换机工作原理

  • 以太网交换机是基于以太网传输数据的交换机,以太网采用共享总线型传输媒体方式的局域网。以太网交换机的结构是每个端口都直接与主机相连,并且一般都工作在全双工方式。交换机能同时连通许多对端口,使每一对相互通信的主机都能像独占通信媒体那样,进行无冲突地传输数据。

  • 以太网交换机工作于OSI网络参考模型的第二层(即数据链路层),是一种基于MAC(Media Access Control,介质访问控制)地址识别、完成以太网数据帧转发的网络设备。

hub工作原理

  • 集线器实际上就是中继器的一种,其区别仅在于集线器能够提供更多的端口服务,所以集线器又叫多口中继器。

  • 集线器功能是随机选出某一端口的设备,并让它独占全部带宽,与集线器的上联设备(交换机、路由器或服务器等)进行通信。从Hub的工作方式可以看出,它在网络中只起到信号放大和重发作用,其目的是扩大网络的传输范围,而不具备信号的定向传送能力,是—个标准的共享式设备。其次是Hub只与它的上联设备(如上层Hub、交换机或服务器)进行通信,同层的各端口之间不会直接进行通信,而是通过上联设备再将信息广播到所有端口上。 由此可见,即使是在同一Hub的不同两个端口之间进行通信,都必须要经过两步操作:

  • 第一步是将信息上传到上联设备;

  • 第二步是上联设备再将该信息广播到所有端口上。

半双工/全双工

  • Full-duplex(全双工)全双工是在通道中同时双向数据传输的能力。
  • Half-duplex(半双工)在通道中同时只能沿着一个方向传输数据。

DNS服务器

  • DNS 是域名系统 (Domain Name System) 的缩写,是因特网的一项核心服务,它作为可以将域名和IP地址相互映射的一个分布式数据库,能够使人更方便的访问互联网,而不用去记住能够被机器直接读取的IP地址串。

  • 它是由解析器以及域名服务器组成的。域名服务器是指保存有该网络中所有主机的域名和对应IP地址,并具有将域名转换为IP地址功能的服务器。

局域网(LAN)

  • local area network,一种覆盖一座或几座大楼、一个校园或者一个厂区等地理区域的小范围的计算机网。
  • 1、覆盖的地理范围较小,只在一个相对独立的局部范围内联,如一座或集中的建筑群内。
  • 2、使用专门铺设的传输介质进行联网,数据传输速率高(10Mb/s~10Gb/s)
  • 3、通信延迟时间短,可靠性较高
  • 4、局域网可以支持多种传输介质

广域网(WAN)

  • wide area network,一种用来实现不同地区的局域网或城域网的互连,可提供不同地区、城市和国家之间的计算机通信的远程计算机网。

  • 覆盖的范围比局域网(LAN)和城域网(MAN)都广。广域网的通信子网主要使用分组交换技术。

  • 广域网的通信子网可以利用公用分组交换网、卫星通信网和无线分组交换网,它将分布在不同地区的局域网或计算机系统互连起来,达到资源共享的目的。如互联网是世界范围内最大的广域网。
  • 1、适应大容量与突发性通信的要求;
  • 2、适应综合业务服务的要求;
  • 3、开放的设备接口与规范化的协议;
  • 4、完善的通信服务与网络管理。

端口

  • 逻辑意义上的端口,一般是指TCP/IP协议中的端口,端口号的范围从0到65535,比如用于浏览网页服务的80端口,用于FTP服务的21端口等等。
  • 1、端口号小于256的定义为常用端口,服务器一般都是通过常用端口号来识别的。
  • 2、客户端只需保证该端口号在本机上是惟一的就可以了。客户端口号因存在时间很短暂又称临时端口号;
  • 3、大多数TCP/IP实现给临时端口号分配1024—5000之间的端口号。大于5000的端口号是为其他服务器预留的。
  • 我们应该在自定义端口时,避免使用well-known的端口。如:80、21等等。

MTU

  • MTU:通信术语 最大传输单元(Maximum Transmission Unit,MTU)
  • 是指一种通信协议的某一层上面所能通过的最大数据包大小(以字节为单位)。最大传输单元这个参数通常与通信接口有关(网络接口卡、串口等)。
  • 以下是一些协议的MTU:

      FDDI协议:4352字节
      以太网(Ethernet)协议:1500字节
      PPPoE(ADSL)协议:1492字节
      X.25协议(Dial Up/Modem):576字节
      Point-to-Point:4470字节

常见网络知识面试题

  • 1、TCP如何建立链接
  • 2、TCP如何通信
  • 3、TCP如何关闭链接
  • 4、什么是滑动窗口
  • 5、什么是半关闭
  • 6、局域网内两台机器如何利用TCP/IP通信
  • 7、internet上两台主机如何进行通信
  • 8、如何在internet上识别唯一一个进程
    • 答:通过“IP地址+端口号”来区分不同的服务
  • 9、为什么说TCP是可靠的链接,UDP不可靠
  • 10、路由器和交换机的区别
  • 11、点到点,端到端

Socket编程

套接字概念

  • Socket本身有“插座”的意思,在Linux环境下,用于表示进程间网络通信的特殊文件类型。本质为内核借助缓冲区形成的伪文件。

  • 既然是文件,那么理所当然的,我们可以使用文件描述符引用套接字。与管道类似的,Linux系统将其封装成文件的目的是为了统一接口,使得读写套接字和读写文件的操作一致。区别是管道主要应用于本地进程间通信,而套接字多应用于网络进程间数据的传递。

  • 套接字的内核实现较为复杂,不宜在学习初期深入学习。

  • 在TCP/IP协议中,“IP地址+TCP或UDP端口号”唯一标识网络通讯中的一个进程。“IP地址+端口号”就对应一个socket。欲建立连接的两个进程各自有一个socket来标识,那么这两个socket组成的socket pair就唯一标识一个连接。因此可以用Socket来描述网络连接的一对一关系。

  • 套接字通信原理如下图所示:

套接字通讯原理示意

  • 在网络通信中,套接字一定是成对出现的。一端的发送缓冲区对应对端的接收缓冲区。我们使用同一个文件描述符索发送缓冲区和接收缓冲区。

  • TCP/IP协议最早在BSD UNIX上实现,为TCP/IP协议设计的应用层编程接口称为socket API。本章的主要内容是socket API,主要介绍TCP协议的函数接口,最后介绍UDP协议和UNIX Domain Socket的函数接口。

网络编程接口

预备知识

网络字节序

  • 我们已经知道,内存中的多字节数据相对于内存地址有大端和小端之分,磁盘文件中的多字节数据相对于文件中的偏移地址也有大端小端之分。网络数据流同样有大端小端之分,那么如何定义网络数据流的地址呢?发送主机通常将发送缓冲区中的数据按内存地址从低到高的顺序发出,接收主机把从网络上接到的字节依次保存在接收缓冲区中,也是按内存地址从低到高的顺序保存,因此,网络数据流的地址应这样规定:先发出的数据是低地址,后发出的数据是高地址。

  • TCP/IP协议规定,网络数据流应采用大端字节序,即低地址高字节。例如上一节的UDP段格式,地址0-1是16位的源端口号,如果这个端口号是1000(0x3e8),则地址0是0x03,地址1是0xe8,也就是先发0x03,再发0xe8,这16位在发送主机的缓冲区中也应该是低地址存0x03,高地址存0xe8。但是,如果发送主机是小端字节序的,这16位被解释成0xe803,而不是1000。因此,发送主机把1000填到发送缓冲区之前需要做字节序的转换。同样地,接收主机如果是小端字节序的,接到16位的源端口号也要做字节序的转换。如果主机是大端字节序的,发送和接收都不需要做转换。同理,32位的IP地址也要考虑网络字节序和主机字节序的问题。

  • 为使网络程序具有可移植性,使同样的C代码在大端和小端计算机上编译后都能正常运行,可以调用以下库函数做网络字节序和主机字节序的转换

      #include <arpa/inet.h>
    
      uint32_t htonl(uint32_t hostlong);
      uint16_t htons(uint16_t hostshort);
      uint32_t ntohl(uint32_t netlong);
      uint16_t ntohs(uint16_t netshort);
  • h表示host,n表示network,l表示32位长整数,s表示16位短整数。

  • 如果主机是小端字节序,这些函数将参数做相应的大小端转换然后返回,如果主机是大端字节序,这些函数不做转换,将参数原封不动地返回。

IP地址转换函数

  • 早期:

      #include <sys/socket.h>
      #include <netinet/in.h>
      #include <arpa/inet.h>
      int inet_aton(const char *cp, struct in_addr *inp);
      in_addr_t inet_addr(const char *cp);
      char *inet_ntoa(struct in_addr in);
      只能处理IPv4的ip地址
      不可重入函数
      注意参数是struct in_addr
  • 现在:

      #include <arpa/inet.h>
      int inet_pton(int af, const char *src, void *dst);
      const char *inet_ntop(int af, const void *src, char *dst, socklen_t size);
    
      支持IPv4和IPv6
      可重入函数
      其中inet_pton和inet_ntop不仅可以转换IPv4的in_addr,还可以转换IPv6的in6_addr。
      因此函数接口是void *addrptr。

sockaddr数据结构

  • strcut sockaddr 很多网络编程函数诞生早于IPv4协议,那时候都使用的是sockaddr结构体,为了向前兼容,现在sockaddr退化成了(void *)的作用,传递一个地址给函数,至于这个函数是sockaddr_in还是sockaddr_in6,由地址族确定,然后函数内部再强制类型转化为所需的地址类型。

sockaddr数据结构

  • sockaddr数据结构

      struct sockaddr {
          sa_family_t sa_family;      /* address family, AF_xxx */
          char sa_data[14];           /* 14 bytes of protocol address */
      };
  • 使用 sudo grep -r "struct sockaddr_in {" /usr 命令可查看到struct sockaddr_in结构体的定义。一般其默认的存储位置:/usr/include/linux/in.h 文件中。

      struct sockaddr_in {
          __kernel_sa_family_t sin_family;            /* Address family */    地址结构类型
          __be16 sin_port;                            /* Port number */       端口号
          struct in_addr sin_addr;                    /* Internet address */  IP地址
          /* Pad to size of `struct sockaddr'. */
          unsigned char __pad[__SOCK_SIZE__ - sizeof(short int) -
          sizeof(unsigned short int) - sizeof(struct in_addr)];
      };
    
      struct in_addr {                        /* Internet address. */
          __be32 s_addr;
      };
    
      struct sockaddr_in6 {
          unsigned short int sin6_family;         /* AF_INET6 */
          __be16 sin6_port;                   /* Transport layer port # */
          __be32 sin6_flowinfo;               /* IPv6 flow information */
          struct in6_addr sin6_addr;          /* IPv6 address */
          __u32 sin6_scope_id;                /* scope id (new in RFC2553) */
      };
    
      struct in6_addr {
          union {
              __u8 u6_addr8[16];
              __be16 u6_addr16[8];
              __be32 u6_addr32[4];
          } in6_u;
          #define s6_addr         in6_u.u6_addr8
          #define s6_addr16   in6_u.u6_addr16
          #define s6_addr32       in6_u.u6_addr32
      };
    
      #define UNIX_PATH_MAX 108
          struct sockaddr_un {
          __kernel_sa_family_t sun_family;    /* AF_UNIX */
          char sun_path[UNIX_PATH_MAX];   /* pathname */
      };
  • Pv4和IPv6的地址格式定义在netinet/in.h中,IPv4地址用sockaddr_in结构体表示,包括16位端口号和32位IP地址,IPv6地址用sockaddr_in6结构体表示,包括16位端口号、128位IP地址和一些控制字段。UNIX Domain Socket的地址格式定义在sys/un.h中,用sock-addr_un结构体表示。各种socket地址结构体的开头都是相同的,前16位表示整个结构体的长度(并不是所有UNIX的实现都有长度字段,如Linux就没有),后16位表示地址类型。IPv4、IPv6和Unix Domain Socket的地址类型分别定义为常数AF_INET、AF_INET6、AF_UNIX。这样,只要取得某种sockaddr结构体的首地址,不需要知道具体是哪种类型的sockaddr结构体,就可以根据地址类型字段确定结构体中的内容。因此,socket API可以接受各种类型的sockaddr结构体指针做参数,例如bind、accept、connect等函数,这些函数的参数应该设计成void 类型以便接受各种类型的指针,但是sock API的实现早于ANSI C标准化,那时还没有void 类型,因此这些函数的参数都用struct sockaddr *类型表示,在传递参数之前要强制类型转换一下,例如:

      struct sockaddr_in servaddr;
      bind(listen_fd, (struct sockaddr *)&servaddr, sizeof(servaddr));        /* initialize servaddr */

网络套接字函数

  • socket模型创建流程图

socket API

  • socket函数

      #include <sys/types.h> /* See NOTES */
      #include <sys/socket.h>
      int socket(int domain, int type, int protocol);
      domain:
          AF_INET 这是大多数用来产生socket的协议,使用TCP或UDP来传输,用IPv4的地址
          AF_INET6 与上面类似,不过是来用IPv6的地址
          AF_UNIX 本地协议,使用在Unix和Linux系统上,一般都是当客户端和服务器在同一台及其上的时候使用
      type:
          SOCK_STREAM 这个协议是按照顺序的、可靠的、数据完整的基于字节流的连接。这是一个使用最多的socket类型,这个socket是使用TCP来进行传输。
          SOCK_DGRAM 这个协议是无连接的、固定长度的传输调用。该协议是不可靠的,使用UDP来进行它的连接。
          SOCK_SEQPACKET该协议是双线路的、可靠的连接,发送固定长度的数据包进行传输。必须把这个包完整的接受才能进行读取。
          SOCK_RAW socket类型提供单一的网络访问,这个socket类型使用ICMP公共协议。(ping、traceroute使用该协议)
          SOCK_RDM 这个类型是很少使用的,在大部分的操作系统上没有实现,它是提供给数据链路层使用,不保证数据包的顺序
      protocol:
          传0 表示使用默认协议。
      返回值:
          成功:返回指向新创建的socket的文件描述符,失败:返回-1,设置errno
    • socket()打开一个网络通讯端口,如果成功的话,就像open()一样返回一个文件描述符,应用程序可以像读写文件一样用read/write在网络上收发数据,如果socket()调用出错则返回-1。对于IPv4,domain参数指定为AF_INET。对于TCP协议,type参数指定为SOCK_STREAM,表示面向流的传输协议。如果是UDP协议,则type参数指定为SOCK_DGRAM,表示面向数据报的传输协议。protocol参数的介绍从略,指定为0即可。
  • bind函数

      #include <sys/types.h> /* See NOTES */
      #include <sys/socket.h>
      int bind(int sockfd, const struct sockaddr *addr, socklen_t addrlen);
      sockfd:
          socket文件描述符
      addr:
          构造出IP地址加端口号
      addrlen:
          sizeof(addr)长度
      返回值:
          成功返回0,失败返回-1, 设置errno
    • 服务器程序所监听的网络地址和端口号通常是固定不变的,客户端程序得知服务器程序的地址和端口号后就可以向服务器发起连接,因此服务器需要调用bind绑定一个固定的网络地址和端口号。

    • bind()的作用是将参数sockfd和addr绑定在一起,使sockfd这个用于网络通讯的文件描述符监听addr所描述的地址和端口号。前面讲过,struct sockaddr *是一个通用指针类型,addr参数实际上可以接受多种协议的sockaddr结构体,而它们的长度各不相同,所以需要第三个参数addrlen指定结构体的长度。如:

        struct sockaddr_in servaddr;
        bzero(&servaddr, sizeof(servaddr));
        servaddr.sin_family = AF_INET;
        servaddr.sin_addr.s_addr = htonl(INADDR_ANY);
        servaddr.sin_port = htons(6666);
    • 首先将整个结构体清零,然后设置地址类型为AF_INET,网络地址为INADDR_ANY,这个宏表示本地的任意IP地址,因为服务器可能有多个网卡,每个网卡也可能绑定多个IP地址,这样设置可以在所有的IP地址上监听,直到与某个客户端建立了连接时才确定下来到底用哪个IP地址,端口号为6666。

  • listen函数

      #include <sys/types.h> /* See NOTES */
      #include <sys/socket.h>
      int listen(int sockfd, int backlog);
      sockfd:
          socket文件描述符
      backlog:
          排队建立3次握手队列和刚刚建立3次握手队列的链接数和
    • 查看系统默认backlog

        cat /proc/sys/net/ipv4/tcp_max_syn_backlog
    • 典型的服务器程序可以同时服务于多个客户端,当有客户端发起连接时,服务器调用的accept()返回并接受这个连接,如果有大量的客户端发起连接而服务器来不及处理,尚未accept的客户端就处于连接等待状态,listen()声明sockfd处于监听状态,并且最多允许有backlog个客户端处于连接待状态,如果接收到更多的连接请求就忽略。listen()成功返回0,失败返回-1。

  • accept函数

      #include <sys/types.h>      /* See NOTES */
      #include <sys/socket.h>
      int accept(int sockfd, struct sockaddr *addr, socklen_t *addrlen);
      sockdf:
          socket文件描述符
      addr:
          传出参数,返回链接客户端地址信息,含IP地址和端口号
      addrlen:
          传入传出参数(值-结果),传入sizeof(addr)大小,函数返回时返回真正接收到地址结构体的大小
      返回值:
          成功返回一个新的socket文件描述符,用于和客户端通信,失败返回-1,设置errno
    • 三方握手完成后,服务器调用accept()接受连接,如果服务器调用accept()时还没有客户端的连接请求,就阻塞等待直到有客户端连接上来。addr是一个传出参数,accept()返回时传出客户端的地址和端口号。addrlen参数是一个传入传出参数(value-result argument),传入的是调用者提供的缓冲区addr的长度以避免缓冲区溢出问题,传出的是客户端地址结构体的实际长度(有可能没有占满调用者提供的缓冲区)。如果给addr参数传NULL,表示不关心客户端的地址。

    • 我们的服务器程序结构是这样的:

        while (1) {
            cliaddr_len = sizeof(cliaddr);
            connfd = accept(listenfd, (struct sockaddr *)&cliaddr, &cliaddr_len);
            n = read(connfd, buf, MAXLINE);
            ......
            close(connfd);
        }
    • 整个是一个while死循环,每次循环处理一个客户端连接。由于cliaddr_len是传入传出参数,每次调用accept()之前应该重新赋初值。accept()的参数listenfd是先前的监听文件描述符,而accept()的返回值是另外一个文件描述符connfd,之后与客户端之间就通过这个connfd通讯,最后关闭connfd断开连接,而不关闭listenfd,再次回到循环开头listenfd仍然用作accept的参数。accept()成功返回一个文件描述符,出错返回-1。

  • connect函数

      #include <sys/types.h>                  /* See NOTES */
      #include <sys/socket.h>
      int connect(int sockfd, const struct sockaddr *addr, socklen_t addrlen);
      sockdf:
          socket文件描述符
      addr:
          传入参数,指定服务器端地址信息,含IP地址和端口号
      addrlen:
          传入参数,传入sizeof(addr)大小
      返回值:
          成功返回0,失败返回-1,设置errno
    • 客户端需要调用connect()连接服务器,connect和bind的参数形式一致,区别在于bind的参数是自己的地址,而connect的参数是对方的地址。connect()成功返回0,出错返回-1。

C/S模型-TCP

  • 下图是基于TCP协议的客户端/服务器程序的一般流程:

TCP协议通讯流程

  • 服务器调用socket()、bind()、listen()完成初始化后,调用accept()阻塞等待,处于监听端口的状态,客户端调用socket()初始化后,调用connect()发出SYN段并阻塞等待服务器应答,服务器应答一个SYN-ACK段,客户端收到后从connect()返回,同时应答一个ACK段,服务器收到后从accept()返回。

  • 数据传输的过程:
    • 建立连接后,TCP协议提供全双工的通信服务,但是一般的客户端/服务器程序的流程是由客户端主动发起请求,服务器被动处理请求,一问一答的方式。因此,服务器从accept()返回后立刻调用read(),读socket就像读管道一样,如果没有数据到达就阻塞等待,这时客户端调用write()发送请求给服务器,服务器收到后从read()返回,对客户端的请求进行处理,在此期间客户端调用read()阻塞等待服务器的应答,服务器调用write()将处理结果发回给客户端,再次调用read()阻塞等待下一条请求,客户端收到后从read()返回,发送下一条请求,如此循环下去。
    • 如果客户端没有更多的请求了,就调用close()关闭连接,就像写端关闭的管道一样,服务器的read()返回0,这样服务器就知道客户端关闭了连接,也调用close()关闭连接。注意,任何一方调用close()后,连接的两个传输方向都关闭,不能再发送数据了。如果一方调用shutdown()则连接处于半关闭状态,仍可接收对方发来的数据。
  • 在学习socket API时要注意应用程序和TCP协议层是如何交互的: 应用程序调用某个socket函数时TCP协议层完成什么动作,比如调用connect()会发出SYN段 应用程序如何知道TCP协议层的状态变化,比如从某个阻塞的socket函数返回就表明TCP协议收到了某些段,再比如read()返回0就表明收到了FIN段

server

  • 下面通过最简单的客户端/服务器程序的实例来学习socket API。

  • server.c的作用是从客户端读字符,然后将每个字符转换为大写并回送给客户端。

      #include <stdio.h>
      #include <stdlib.h>
      #include <string.h>
      #include <unistd.h>
      #include <sys/socket.h>
      #include <netinet/in.h>
      #include <arpa/inet.h>
    
      #define MAXLINE 80
      #define SERV_PORT 6666
    
      int main(void)
      {
          struct sockaddr_in servaddr, cliaddr;
          socklen_t cliaddr_len;
          int listenfd, connfd;
          char buf[MAXLINE];
          char str[INET_ADDRSTRLEN];
          int i, n;
    
          listenfd = socket(AF_INET, SOCK_STREAM, 0);
    
          bzero(&servaddr, sizeof(servaddr));
          servaddr.sin_family = AF_INET;
          servaddr.sin_addr.s_addr = htonl(INADDR_ANY);
          servaddr.sin_port = htons(SERV_PORT);
    
          bind(listenfd, (struct sockaddr *)&servaddr, sizeof(servaddr));
          listen(listenfd, 20);
    
          printf("Accepting connections ...\n");
          while (1) {
              cliaddr_len = sizeof(cliaddr);
              connfd = accept(listenfd, (struct sockaddr *)&cliaddr, &cliaddr_len);
              n = read(connfd, buf, MAXLINE);
              printf("received from %s at PORT %d\n",
              inet_ntop(AF_INET, &cliaddr.sin_addr, str, sizeof(str)),
              ntohs(cliaddr.sin_port));
              for (i = 0; i < n; i++)
                  buf[i] = toupper(buf[i]);
              write(connfd, buf, n);
              close(connfd);
          }
          return 0;
      }

client

  • client.c的作用是从命令行参数中获得一个字符串发给服务器,然后接收服务器返回的字符串并打印。

      #include <stdio.h>
      #include <stdlib.h>
      #include <string.h>
      #include <unistd.h>
      #include <sys/socket.h>
      #include <netinet/in.h>
    
      #define MAXLINE 80
      #define SERV_PORT 6666
    
      int main(int argc, char *argv[])
      {
          struct sockaddr_in servaddr;
          char buf[MAXLINE];
          int sockfd, n;
      char *str;
    
          if (argc != 2) {
              fputs("usage: ./client message\n", stderr);
              exit(1);
          }
      str = argv[1];
    
          sockfd = socket(AF_INET, SOCK_STREAM, 0);
    
          bzero(&servaddr, sizeof(servaddr));
          servaddr.sin_family = AF_INET;
          inet_pton(AF_INET, "127.0.0.1", &servaddr.sin_addr);
          servaddr.sin_port = htons(SERV_PORT);
    
          connect(sockfd, (struct sockaddr *)&servaddr, sizeof(servaddr));
    
          write(sockfd, str, strlen(str));
    
          n = read(sockfd, buf, MAXLINE);
          printf("Response from server:\n");
          write(STDOUT_FILENO, buf, n);
          close(sockfd);
    
          return 0;
      }
  • 由于客户端不需要固定的端口号,因此不必调用bind(),客户端的端口号由内核自动分配。注意,客户端不是不允许调用bind(),只是没有必要调用bind()固定一个端口号,服务器也不是必须调用bind(),但如果服务器不调用bind(),内核会自动给服务器分配监听端口,每次启动服务器时端口号都不一样,客户端要连接服务器就会遇到麻烦。

  • 客户端和服务器启动后可以使用netstat命令查看链接情况:

      netstat -apn|grep 6666

出错处理封装函数

  • 上面的例子不仅功能简单,而且简单到几乎没有什么错误处理,我们知道,系统调用不能保证每次都成功,必须进行出错处理,这样一方面可以保证程序逻辑正常,另一方面可以迅速得到故障信息。

  • 为使错误处理的代码不影响主程序的可读性,我们把与socket相关的一些系统函数加上错误处理代码包装成新的函数,做成一个模块wrap.c:

  • wrap.c

      #include <stdlib.h>
      #include <errno.h>
      #include <sys/socket.h>
      void perr_exit(const char *s)
      {
          perror(s);
          exit(1);
      }
      int Accept(int fd, struct sockaddr *sa, socklen_t *salenptr)
      {
          int n;
          again:
          if ( (n = accept(fd, sa, salenptr)) < 0) {
              if ((errno == ECONNABORTED) || (errno == EINTR))
                  goto again;
              else
                  perr_exit("accept error");
          }
          return n;
      }
      int Bind(int fd, const struct sockaddr *sa, socklen_t salen)
      {
          int n;
          if ((n = bind(fd, sa, salen)) < 0)
              perr_exit("bind error");
          return n;
      }
      int Connect(int fd, const struct sockaddr *sa, socklen_t salen)
      {
          int n;
          if ((n = connect(fd, sa, salen)) < 0)
              perr_exit("connect error");
          return n;
      }
      int Listen(int fd, int backlog)
      {
          int n;
          if ((n = listen(fd, backlog)) < 0)
              perr_exit("listen error");
          return n;
      }
      int Socket(int family, int type, int protocol)
      {
          int n;
          if ( (n = socket(family, type, protocol)) < 0)
              perr_exit("socket error");
          return n;
      }
      ssize_t Read(int fd, void *ptr, size_t nbytes)
      {
          ssize_t n;
      again:
          if ( (n = read(fd, ptr, nbytes)) == -1) {
              if (errno == EINTR)
                  goto again;
              else
                  return -1;
          }
          return n;
      }
      ssize_t Write(int fd, const void *ptr, size_t nbytes)
      {
          ssize_t n;
      again:
          if ( (n = write(fd, ptr, nbytes)) == -1) {
              if (errno == EINTR)
                  goto again;
              else
                  return -1;
          }
          return n;
      }
      int Close(int fd)
      {
          int n;
          if ((n = close(fd)) == -1)
              perr_exit("close error");
          return n;
      }
      ssize_t Readn(int fd, void *vptr, size_t n)
      {
          size_t nleft;
          ssize_t nread;
          char *ptr;
    
          ptr = vptr;
          nleft = n;
    
          while (nleft > 0) {
              if ( (nread = read(fd, ptr, nleft)) < 0) {
                  if (errno == EINTR)
                      nread = 0;
                  else
                      return -1;
              } else if (nread == 0)
                  break;
              nleft -= nread;
              ptr += nread;
          }
          return n - nleft;
      }
    
      ssize_t Writen(int fd, const void *vptr, size_t n)
      {
          size_t nleft;
          ssize_t nwritten;
          const char *ptr;
    
          ptr = vptr;
          nleft = n;
    
          while (nleft > 0) {
              if ( (nwritten = write(fd, ptr, nleft)) <= 0) {
                  if (nwritten < 0 && errno == EINTR)
                      nwritten = 0;
                  else
                      return -1;
              }
              nleft -= nwritten;
              ptr += nwritten;
          }
          return n;
      }
    
      static ssize_t my_read(int fd, char *ptr)
      {
          static int read_cnt;
          static char *read_ptr;
          static char read_buf[100];
    
          if (read_cnt <= 0) {
      again:
              if ((read_cnt = read(fd, read_buf, sizeof(read_buf))) < 0) {
                  if (errno == EINTR)
                      goto again;
                  return -1;  
              } else if (read_cnt == 0)
                  return 0;
              read_ptr = read_buf;
          }
          read_cnt--;
          *ptr = *read_ptr++;
          return 1;
      }
    
      ssize_t Readline(int fd, void *vptr, size_t maxlen)
      {
          ssize_t n, rc;
          char c, *ptr;
          ptr = vptr;
    
          for (n = 1; n < maxlen; n++) {
              if ( (rc = my_read(fd, &c)) == 1) {
                  *ptr++ = c;
                  if (c == '\n')
                      break;
              } else if (rc == 0) {
                  *ptr = 0;
                  return n - 1;
              } else
                  return -1;
          }
          *ptr = 0;
          return n;
      }
  • wrap.h

      #ifndef __WRAP_H_
      #define __WRAP_H_
      void perr_exit(const char *s);
      int Accept(int fd, struct sockaddr *sa, socklen_t *salenptr);
      int Bind(int fd, const struct sockaddr *sa, socklen_t salen);
      int Connect(int fd, const struct sockaddr *sa, socklen_t salen);
      int Listen(int fd, int backlog);
      int Socket(int family, int type, int protocol);
      ssize_t Read(int fd, void *ptr, size_t nbytes);
      ssize_t Write(int fd, const void *ptr, size_t nbytes);
      int Close(int fd);
      ssize_t Readn(int fd, void *vptr, size_t n);
      ssize_t Writen(int fd, const void *vptr, size_t n);
      ssize_t my_read(int fd, char *ptr);
      ssize_t Readline(int fd, void *vptr, size_t maxlen);
      #endif

高并发服务器

高并发服务器

多进程并发服务器

  • 使用多进程并发服务器时要考虑以下几点:
    • 1、父进程最大文件描述个数(父进程中需要close关闭accept返回的新文件描述符)
    • 2、系统内创建进程个数(与内存大小相关)
    • 3、进程创建过多是否降低整体服务性能(进程调度)
  • server

      /* server.c */
      #include <stdio.h>
      #include <string.h>
      #include <netinet/in.h>
      #include <arpa/inet.h>
      #include <signal.h>
      #include <sys/wait.h>
      #include <sys/types.h>
      #include "wrap.h"
    
      #define MAXLINE 80
      #define SERV_PORT 800
    
      void do_sigchild(int num)
      {
          while (waitpid(0, NULL, WNOHANG) > 0)
              ;
      }
      int main(void)
      {
          struct sockaddr_in servaddr, cliaddr;
          socklen_t cliaddr_len;
          int listenfd, connfd;
          char buf[MAXLINE];
          char str[INET_ADDRSTRLEN];
          int i, n;
          pid_t pid;
    
          struct sigaction newact;
          newact.sa_handler = do_sigchild;
          sigemptyset(&newact.sa_mask);
          newact.sa_flags = 0;
          sigaction(SIGCHLD, &newact, NULL);
    
          listenfd = Socket(AF_INET, SOCK_STREAM, 0);
    
          bzero(&servaddr, sizeof(servaddr));
          servaddr.sin_family = AF_INET;
          servaddr.sin_addr.s_addr = htonl(INADDR_ANY);
          servaddr.sin_port = htons(SERV_PORT);
    
          Bind(listenfd, (struct sockaddr *)&servaddr, sizeof(servaddr));
    
          Listen(listenfd, 20);
    
          printf("Accepting connections ...\n");
          while (1) {
              cliaddr_len = sizeof(cliaddr);
              connfd = Accept(listenfd, (struct sockaddr *)&cliaddr, &cliaddr_len);
    
              pid = fork();
              if (pid == 0) {
                  Close(listenfd);
                  while (1) {
                      n = Read(connfd, buf, MAXLINE);
                      if (n == 0) {
                          printf("the other side has been closed.\n");
                          break;
                      }
                      printf("received from %s at PORT %d\n",
                              inet_ntop(AF_INET, &cliaddr.sin_addr, str, sizeof(str)),
                              ntohs(cliaddr.sin_port));
                      for (i = 0; i < n; i++)
                          buf[i] = toupper(buf[i]);
                      Write(connfd, buf, n);
                  }
                  Close(connfd);
                  return 0;
              } else if (pid > 0) {
                  Close(connfd);
              } else
                  perr_exit("fork");
          }
          Close(listenfd);
          return 0;
      }
  • client

      /* client.c */
      #include <stdio.h>
      #include <string.h>
      #include <unistd.h>
      #include <netinet/in.h>
      #include "wrap.h"
    
      #define MAXLINE 80
      #define SERV_PORT 6666
    
      int main(int argc, char *argv[])
      {
          struct sockaddr_in servaddr;
          char buf[MAXLINE];
          int sockfd, n;
    
          sockfd = Socket(AF_INET, SOCK_STREAM, 0);
    
          bzero(&servaddr, sizeof(servaddr));
          servaddr.sin_family = AF_INET;
          inet_pton(AF_INET, "127.0.0.1", &servaddr.sin_addr);
          servaddr.sin_port = htons(SERV_PORT);
    
          Connect(sockfd, (struct sockaddr *)&servaddr, sizeof(servaddr));
    
          while (fgets(buf, MAXLINE, stdin) != NULL) {
              Write(sockfd, buf, strlen(buf));
              n = Read(sockfd, buf, MAXLINE);
              if (n == 0) {
                  printf("the other side has been closed.\n");
                  break;
              } else
                  Write(STDOUT_FILENO, buf, n);
          }
          Close(sockfd);
          return 0;
      }

多线程并发服务器

  • 在使用线程模型开发服务器时需考虑以下问题:
    • 1、调整进程内最大文件描述符上限
    • 2、线程如有共享数据,考虑线程同步
    • 3、服务于客户端线程退出时,退出处理。(退出值,分离态)
    • 4、系统负载,随着链接客户端增加,导致其它线程不能及时得到CPU
  • server

      /* server.c */
      #include <stdio.h>
      #include <string.h>
      #include <netinet/in.h>
      #include <arpa/inet.h>
      #include <pthread.h>
    
      #include "wrap.h"
      #define MAXLINE 80
      #define SERV_PORT 6666
    
      struct s_info {
          struct sockaddr_in cliaddr;
          int connfd;
      };
      void *do_work(void *arg)
      {
          int n,i;
          struct s_info *ts = (struct s_info*)arg;
          char buf[MAXLINE];
          char str[INET_ADDRSTRLEN];
          /* 可以在创建线程前设置线程创建属性,设为分离态,哪种效率高内? */
          pthread_detach(pthread_self());
          while (1) {
              n = Read(ts->connfd, buf, MAXLINE);
              if (n == 0) {
                  printf("the other side has been closed.\n");
                  break;
              }
              printf("received from %s at PORT %d\n",
                      inet_ntop(AF_INET, &(*ts).cliaddr.sin_addr, str, sizeof(str)),
                      ntohs((*ts).cliaddr.sin_port));
              for (i = 0; i < n; i++)
                  buf[i] = toupper(buf[i]);
              Write(ts->connfd, buf, n);
          }
          Close(ts->connfd);
      }
    
      int main(void)
      {
          struct sockaddr_in servaddr, cliaddr;
          socklen_t cliaddr_len;
          int listenfd, connfd;
          int i = 0;
          pthread_t tid;
          struct s_info ts[256];
    
          listenfd = Socket(AF_INET, SOCK_STREAM, 0);
    
          bzero(&servaddr, sizeof(servaddr));
          servaddr.sin_family = AF_INET;
          servaddr.sin_addr.s_addr = htonl(INADDR_ANY);
          servaddr.sin_port = htons(SERV_PORT);
    
          Bind(listenfd, (struct sockaddr *)&servaddr, sizeof(servaddr));
          Listen(listenfd, 20);
    
          printf("Accepting connections ...\n");
          while (1) {
              cliaddr_len = sizeof(cliaddr);
              connfd = Accept(listenfd, (struct sockaddr *)&cliaddr, &cliaddr_len);
              ts[i].cliaddr = cliaddr;
              ts[i].connfd = connfd;
              /* 达到线程最大数时,pthread_create出错处理, 增加服务器稳定性 */
              pthread_create(&tid, NULL, do_work, (void*)&ts[i]);
              i++;
          }
          return 0;
      }
  • client

      /* client.c */
      #include <stdio.h>
      #include <string.h>
      #include <unistd.h>
      #include <netinet/in.h>
      #include "wrap.h"
      #define MAXLINE 80
      #define SERV_PORT 6666
      int main(int argc, char *argv[])
      {
          struct sockaddr_in servaddr;
          char buf[MAXLINE];
          int sockfd, n;
    
          sockfd = Socket(AF_INET, SOCK_STREAM, 0);
    
          bzero(&servaddr, sizeof(servaddr));
          servaddr.sin_family = AF_INET;
          inet_pton(AF_INET, "127.0.0.1", &servaddr.sin_addr);
          servaddr.sin_port = htons(SERV_PORT);
    
          Connect(sockfd, (struct sockaddr *)&servaddr, sizeof(servaddr));
    
          while (fgets(buf, MAXLINE, stdin) != NULL) {
              Write(sockfd, buf, strlen(buf));
              n = Read(sockfd, buf, MAXLINE);
              if (n == 0)
                  printf("the other side has been closed.\n");
              else
                  Write(STDOUT_FILENO, buf, n);
          }
          Close(sockfd);
          return 0;
      }

多路I/O转接服务器

  • 多路IO转接服务器也叫做多任务IO服务器。该类服务器实现的主旨思想是,不再由应用程序自己监视客户端连接,取而代之由内核替应用程序监视文件。
  • 主要使用的方法有三种

  • select
    • 1、select能监听的文件描述符个数受限于FD_SETSIZE,一般为1024,单纯改变进程打开的文件描述符个数并不能改变select监听文件个数
    • 2、解决1024以下客户端时使用select是很合适的,但如果链接客户端过多,select采用的是轮询模型,会大大降低服务器响应效率,不应在select上投入更多精力

        #include <sys/select.h>
        /* According to earlier standards */
        #include <sys/time.h>
        #include <sys/types.h>
        #include <unistd.h>
        int select(int nfds, fd_set *readfds, fd_set *writefds,
                    fd_set *exceptfds, struct timeval *timeout);
      
            nfds:       监控的文件描述符集里最大文件描述符加1,因为此参数会告诉内核检测前多少个文件描述符的状态
            readfds:    监控有读数据到达文件描述符集合,传入传出参数
            writefds:   监控写数据到达文件描述符集合,传入传出参数
            exceptfds:  监控异常发生达文件描述符集合,如带外数据到达异常,传入传出参数
            timeout:    定时阻塞监控时间,3种情况
                        1.NULL,永远等下去
                        2.设置timeval,等待固定时间
                        3.设置timeval里时间均为0,检查描述字后立即返回,轮询
            struct timeval {
                long tv_sec; /* seconds */
                long tv_usec; /* microseconds */
            };
            void FD_CLR(int fd, fd_set *set);   //把文件描述符集合里fd清0
            int FD_ISSET(int fd, fd_set *set);  //测试文件描述符集合里fd是否置1
            void FD_SET(int fd, fd_set *set);   //把文件描述符集合里fd位置1
            void FD_ZERO(fd_set *set);          //把文件描述符集合里所有位清0
  • server

      /* server.c */
      #include <stdio.h>
      #include <stdlib.h>
      #include <string.h>
      #include <netinet/in.h>
      #include <arpa/inet.h>
      #include "wrap.h"
    
      #define MAXLINE 80
      #define SERV_PORT 6666
    
      int main(int argc, char *argv[])
      {
          int i, maxi, maxfd, listenfd, connfd, sockfd;
          int nready, client[FD_SETSIZE];     /* FD_SETSIZE 默认为 1024 */
          ssize_t n;
          fd_set rset, allset;
          char buf[MAXLINE];
          char str[INET_ADDRSTRLEN];          /* #define INET_ADDRSTRLEN 16 */
          socklen_t cliaddr_len;
          struct sockaddr_in cliaddr, servaddr;
    
          listenfd = Socket(AF_INET, SOCK_STREAM, 0);
    
      bzero(&servaddr, sizeof(servaddr));
      servaddr.sin_family = AF_INET;
      servaddr.sin_addr.s_addr = htonl(INADDR_ANY);
      servaddr.sin_port = htons(SERV_PORT);
    
      Bind(listenfd, (struct sockaddr *)&servaddr, sizeof(servaddr));
    
      Listen(listenfd, 20);       /* 默认最大128 */
    
      maxfd = listenfd;           /* 初始化 */
      maxi = -1;                  /* client[]的下标 */
    
      for (i = 0; i < FD_SETSIZE; i++)
          client[i] = -1;         /* 用-1初始化client[] */
    
      FD_ZERO(&allset);
      FD_SET(listenfd, &allset); /* 构造select监控文件描述符集 */
    
      for ( ; ; ) {
          rset = allset;          /* 每次循环时都从新设置select监控信号集 */
          nready = select(maxfd+1, &rset, NULL, NULL, NULL);
    
          if (nready < 0)
              perr_exit("select error");
          if (FD_ISSET(listenfd, &rset)) { /* new client connection */
              cliaddr_len = sizeof(cliaddr);
              connfd = Accept(listenfd, (struct sockaddr *)&cliaddr, &cliaddr_len);
              printf("received from %s at PORT %d\n",
                      inet_ntop(AF_INET, &cliaddr.sin_addr, str, sizeof(str)),
                      ntohs(cliaddr.sin_port));
              for (i = 0; i < FD_SETSIZE; i++) {
                  if (client[i] < 0) {
                      client[i] = connfd; /* 保存accept返回的文件描述符到client[]里 */
                      break;
                  }
              }
              /* 达到select能监控的文件个数上限 1024 */
              if (i == FD_SETSIZE) {
                  fputs("too many clients\n", stderr);
                  exit(1);
              }
    
              FD_SET(connfd, &allset);    /* 添加一个新的文件描述符到监控信号集里 */
              if (connfd > maxfd)
                  maxfd = connfd;         /* select第一个参数需要 */
              if (i > maxi)
                  maxi = i;               /* 更新client[]最大下标值 */
    
              if (--nready == 0)
                  continue;               /* 如果没有更多的就绪文件描述符继续回到上面select阻塞监听,
                                              负责处理未处理完的就绪文件描述符 */
              }
              for (i = 0; i <= maxi; i++) {   /* 检测哪个clients 有数据就绪 */
                  if ( (sockfd = client[i]) < 0)
                      continue;
                  if (FD_ISSET(sockfd, &rset)) {
                      if ( (n = Read(sockfd, buf, MAXLINE)) == 0) {
                          Close(sockfd);      /* 当client关闭链接时,服务器端也关闭对应链接 */
                          FD_CLR(sockfd, &allset); /* 解除select监控此文件描述符 */
                          client[i] = -1;
                      } else {
                          int j;
                          for (j = 0; j < n; j++)
                              buf[j] = toupper(buf[j]);
                          Write(sockfd, buf, n);
                      }
                      if (--nready == 0)
                          break;
                  }
              }
          }
          close(listenfd);
          return 0;
      }
  • client

      /* client.c */
      #include <stdio.h>
      #include <string.h>
      #include <unistd.h>
      #include <netinet/in.h>
      #include "wrap.h"
    
      #define MAXLINE 80
      #define SERV_PORT 6666
    
      int main(int argc, char *argv[])
      {
          struct sockaddr_in servaddr;
          char buf[MAXLINE];
          int sockfd, n;
    
          sockfd = Socket(AF_INET, SOCK_STREAM, 0);
    
          bzero(&servaddr, sizeof(servaddr));
          servaddr.sin_family = AF_INET;
          inet_pton(AF_INET, "127.0.0.1", &servaddr.sin_addr);
          servaddr.sin_port = htons(SERV_PORT);
    
          Connect(sockfd, (struct sockaddr *)&servaddr, sizeof(servaddr));
    
          while (fgets(buf, MAXLINE, stdin) != NULL) {
              Write(sockfd, buf, strlen(buf));
              n = Read(sockfd, buf, MAXLINE);
              if (n == 0)
                  printf("the other side has been closed.\n");
              else
                  Write(STDOUT_FILENO, buf, n);
          }
          Close(sockfd);
          return 0;
      }
  • pselect
    • pselect原型如下。此模型应用较少,有需要的同学可参考select模型自行编写C/S

        #include <sys/select.h>
        int pselect(int nfds, fd_set *readfds, fd_set *writefds,
                    fd_set *exceptfds, const struct timespec *timeout,
                    const sigset_t *sigmask);
            struct timespec {
                long tv_sec; /* seconds */
                long tv_nsec; /* nanoseconds */
            };
            用sigmask替代当前进程的阻塞信号集,调用返回后还原原有阻塞信号集
  • poll

      #include <poll.h>
      int poll(struct pollfd *fds, nfds_t nfds, int timeout);
      struct pollfd {
          int fd; /* 文件描述符 */
          short events; /* 监控的事件 */
          short revents; /* 监控事件中满足条件返回的事件 */
      };
      POLLIN          普通或带外优先数据可读,即POLLRDNORM | POLLRDBAND
      POLLRDNORM      数据可读
      POLLRDBAND      优先级带数据可读
      POLLPRI         高优先级可读数据
      POLLOUT     普通或带外数据可写
      POLLWRNORM      数据可写
      POLLWRBAND      优先级带数据可写
      POLLERR         发生错误
      POLLHUP         发生挂起
      POLLNVAL        描述字不是一个打开的文件
    
      nfds            监控数组中有多少文件描述符需要被监控
    
      timeout         毫秒级等待
          -1:阻塞等,#define INFTIM -1                Linux中没有定义此宏
          0:立即返回,不阻塞进程
          >0:等待指定毫秒数,如当前系统时间精度不够毫秒,向上取值
    • 如果不再监控某个文件描述符时,可以把pollfd中,fd设置为-1,poll不再监控此pollfd,下次返回时,把revents设置为0。
  • server

      /* server.c */
      #include <stdio.h>
      #include <stdlib.h>
      #include <string.h>
      #include <netinet/in.h>
      #include <arpa/inet.h>
      #include <poll.h>
      #include <errno.h>
      #include "wrap.h"
    
      #define MAXLINE 80
      #define SERV_PORT 6666
      #define OPEN_MAX 1024
    
      int main(int argc, char *argv[])
      {
          int i, j, maxi, listenfd, connfd, sockfd;
          int nready;
          ssize_t n;
          char buf[MAXLINE], str[INET_ADDRSTRLEN];
          socklen_t clilen;
          struct pollfd client[OPEN_MAX];
          struct sockaddr_in cliaddr, servaddr;
    
          listenfd = Socket(AF_INET, SOCK_STREAM, 0);
    
          bzero(&servaddr, sizeof(servaddr));
          servaddr.sin_family = AF_INET;
          servaddr.sin_addr.s_addr = htonl(INADDR_ANY);
          servaddr.sin_port = htons(SERV_PORT);
    
          Bind(listenfd, (struct sockaddr *)&servaddr, sizeof(servaddr));
    
          Listen(listenfd, 20);
    
          client[0].fd = listenfd;
          client[0].events = POLLRDNORM;                  /* listenfd监听普通读事件 */
    
          for (i = 1; i < OPEN_MAX; i++)
              client[i].fd = -1;                          /* 用-1初始化client[]里剩下元素 */
          maxi = 0;                                       /* client[]数组有效元素中最大元素下标 */
    
          for ( ; ; ) {
              nready = poll(client, maxi+1, -1);          /* 阻塞 */
              if (client[0].revents & POLLRDNORM) {       /* 有客户端链接请求 */
                  clilen = sizeof(cliaddr);
                  connfd = Accept(listenfd, (struct sockaddr *)&cliaddr, &clilen);
                  printf("received from %s at PORT %d\n",
                          inet_ntop(AF_INET, &cliaddr.sin_addr, str, sizeof(str)),
                          ntohs(cliaddr.sin_port));
                  for (i = 1; i < OPEN_MAX; i++) {
                      if (client[i].fd < 0) {
                          client[i].fd = connfd;  /* 找到client[]中空闲的位置,存放accept返回的connfd */
                          break;
                      }
                  }
    
                  if (i == OPEN_MAX)
                      perr_exit("too many clients");
    
                  client[i].events = POLLRDNORM;      /* 设置刚刚返回的connfd,监控读事件 */
                  if (i > maxi)
                      maxi = i;                       /* 更新client[]中最大元素下标 */
                  if (--nready <= 0)
                      continue;                       /* 没有更多就绪事件时,继续回到poll阻塞 */
              }
              for (i = 1; i <= maxi; i++) {           /* 检测client[] */
                  if ((sockfd = client[i].fd) < 0)
                      continue;
                  if (client[i].revents & (POLLRDNORM | POLLERR)) {
                      if ((n = Read(sockfd, buf, MAXLINE)) < 0) {
                          if (errno == ECONNRESET) { /* 当收到 RST标志时 */
                              /* connection reset by client */
                              printf("client[%d] aborted connection\n", i);
                              Close(sockfd);
                              client[i].fd = -1;
                          } else {
                              perr_exit("read error");
                          }
                      } else if (n == 0) {
                          /* connection closed by client */
                          printf("client[%d] closed connection\n", i);
                          Close(sockfd);
                          client[i].fd = -1;
                      } else {
                          for (j = 0; j < n; j++)
                              buf[j] = toupper(buf[j]);
                              Writen(sockfd, buf, n);
                      }
                      if (--nready <= 0)
                          break;              /* no more readable descriptors */
                  }
              }
          }
          return 0;
      }
  • client

      /* client.c */
      #include <stdio.h>
      #include <string.h>
      #include <unistd.h>
      #include <netinet/in.h>
      #include "wrap.h"
    
      #define MAXLINE 80
      #define SERV_PORT 6666
    
      int main(int argc, char *argv[])
      {
          struct sockaddr_in servaddr;
          char buf[MAXLINE];
          int sockfd, n;
    
          sockfd = Socket(AF_INET, SOCK_STREAM, 0);
    
          bzero(&servaddr, sizeof(servaddr));
          servaddr.sin_family = AF_INET;
          inet_pton(AF_INET, "127.0.0.1", &servaddr.sin_addr);
          servaddr.sin_port = htons(SERV_PORT);
    
          Connect(sockfd, (struct sockaddr *)&servaddr, sizeof(servaddr));
    
          while (fgets(buf, MAXLINE, stdin) != NULL) {
              Write(sockfd, buf, strlen(buf));
              n = Read(sockfd, buf, MAXLINE);
              if (n == 0)
                  printf("the other side has been closed.\n");
              else
                  Write(STDOUT_FILENO, buf, n);
          }
          Close(sockfd);
          return 0;
      }
  • ppoll
    • GNU定义了ppoll(非POSIX标准),可以支持设置信号屏蔽字,大家可参考poll模型自行实现C/S。

        #define _GNU_SOURCE /* See feature_test_macros(7) */
        #include <poll.h>
        int ppoll(struct pollfd *fds, nfds_t nfds,
                   const struct timespec *timeout_ts, const sigset_t *sigmask);
  • epoll
    • epoll是Linux下多路复用IO接口select/poll的增强版本,它能显著提高程序在大量并发连接中只有少量活跃的情况下的系统CPU利用率,因为它会复用文件描述符集合来传递结果而不用迫使开发者每次等待事件之前都必须重新准备要被侦听的文件描述符集合,另一点原因就是获取事件的时候,它无须遍历整个被侦听的描述符集,只要遍历那些被内核IO事件异步唤醒而加入Ready队列的描述符集合就行了。
    • 目前epell是linux大规模并发网络程序中的热门首选模型。
    • epoll除了提供select/poll那种IO事件的电平触发(Level Triggered)外,还提供了边沿触发(Edge Triggered),这就使得用户空间程序有可能缓存IO状态,减少epoll_wait/epoll_pwait的调用,提高应用程序效率。
    • 可以使用cat命令查看一个进程可以打开的socket描述符上限。

        cat /proc/sys/fs/file-max
    • 如有需要,可以通过修改配置文件的方式修改该上限值。

        sudo vi /etc/security/limits.conf
        在文件尾部写入以下配置,soft软限制,hard硬限制。如下图所示。
        * soft nofile 65536
        * hard nofile 100000

/etc/security/limits.conf

基础API

  • 1、创建一个epoll句柄,参数size用来告诉内核监听的文件描述符的个数,跟内存大小有关。

      #include <sys/epoll.h>
      int epoll_create(int size)      size:监听数目
  • 2、控制某个epoll监控的文件描述符上的事件:注册、修改、删除。

      #include <sys/epoll.h>
      int epoll_ctl(int epfd, int op, int fd, struct epoll_event *event)
          epfd:   为epoll_creat的句柄
          op:     表示动作,用3个宏来表示:
              EPOLL_CTL_ADD (注册新的fd到epfd),
              EPOLL_CTL_MOD (修改已经注册的fd的监听事件),
              EPOLL_CTL_DEL (从epfd删除一个fd);
          event:  告诉内核需要监听的事件
    
          struct epoll_event {
              __uint32_t events; /* Epoll events */
              epoll_data_t data; /* User data variable */
          };
          typedef union epoll_data {
              void *ptr;
              int fd;
              uint32_t u32;
              uint64_t u64;
          } epoll_data_t;
    
          EPOLLIN :   表示对应的文件描述符可以读(包括对端SOCKET正常关闭)
          EPOLLOUT:   表示对应的文件描述符可以写
          EPOLLPRI:   表示对应的文件描述符有紧急的数据可读(这里应该表示有带外数据到来)
          EPOLLERR:   表示对应的文件描述符发生错误
          EPOLLHUP:   表示对应的文件描述符被挂断;
          EPOLLET:    将EPOLL设为边缘触发(Edge Triggered)模式,这是相对于水平触发(Level Triggered)而言的
          EPOLLONESHOT:只监听一次事件,当监听完这次事件之后,如果还需要继续监听这个socket的话,需要再次把这个socket加入到EPOLL队列里
  • 3、等待所监控文件描述符上有事件的产生,类似于select()调用。

      #include <sys/epoll.h>
      int epoll_wait(int epfd, struct epoll_event *events, int maxevents, int timeout)
          events:     用来存内核得到事件的集合,
          maxevents:  告之内核这个events有多大,这个maxevents的值不能大于创建epoll_create()时的size,
          timeout:    是超时时间
              -1: 阻塞
              0:  立即返回,非阻塞
              >0: 指定毫秒
          返回值:    成功返回有多少文件描述符就绪,时间到时返回0,出错返回-1
  • server

      #include <stdio.h>
      #include <stdlib.h>
      #include <string.h>
      #include <netinet/in.h>
      #include <arpa/inet.h>
      #include <sys/epoll.h>
      #include <errno.h>
      #include "wrap.h"
    
      #define MAXLINE 80
      #define SERV_PORT 6666
      #define OPEN_MAX 1024
    
      int main(int argc, char *argv[])
      {
          int i, j, maxi, listenfd, connfd, sockfd;
          int nready, efd, res;
          ssize_t n;
          char buf[MAXLINE], str[INET_ADDRSTRLEN];
          socklen_t clilen;
          int client[OPEN_MAX];
          struct sockaddr_in cliaddr, servaddr;
          struct epoll_event tep, ep[OPEN_MAX];
    
          listenfd = Socket(AF_INET, SOCK_STREAM, 0);
    
          bzero(&servaddr, sizeof(servaddr));
          servaddr.sin_family = AF_INET;
          servaddr.sin_addr.s_addr = htonl(INADDR_ANY);
          servaddr.sin_port = htons(SERV_PORT);
    
          Bind(listenfd, (struct sockaddr *) &servaddr, sizeof(servaddr));
    
          Listen(listenfd, 20);
    
          for (i = 0; i < OPEN_MAX; i++)
              client[i] = -1;
          maxi = -1;
    
          efd = epoll_create(OPEN_MAX);
          if (efd == -1)
              perr_exit("epoll_create");
    
          tep.events = EPOLLIN; tep.data.fd = listenfd;
    
          res = epoll_ctl(efd, EPOLL_CTL_ADD, listenfd, &tep);
          if (res == -1)
              perr_exit("epoll_ctl");
    
          while (1) {
              nready = epoll_wait(efd, ep, OPEN_MAX, -1); /* 阻塞监听 */
              if (nready == -1)
                  perr_exit("epoll_wait");
    
              for (i = 0; i < nready; i++) {
                  if (!(ep[i].events & EPOLLIN))
                      continue;
                  if (ep[i].data.fd == listenfd) {
                      clilen = sizeof(cliaddr);
                      connfd = Accept(listenfd, (struct sockaddr *)&cliaddr, &clilen);
                      printf("received from %s at PORT %d\n", 
                              inet_ntop(AF_INET, &cliaddr.sin_addr, str, sizeof(str)), 
                              ntohs(cliaddr.sin_port));
                      for (j = 0; j < OPEN_MAX; j++) {
                          if (client[j] < 0) {
                              client[j] = connfd; /* save descriptor */
                              break;
                          }
                      }
    
                      if (j == OPEN_MAX)
                          perr_exit("too many clients");
                      if (j > maxi)
                          maxi = j;       /* max index in client[] array */
    
                      tep.events = EPOLLIN; 
                      tep.data.fd = connfd;
                      res = epoll_ctl(efd, EPOLL_CTL_ADD, connfd, &tep);
                      if (res == -1)
                          perr_exit("epoll_ctl");
                  } else {
                      sockfd = ep[i].data.fd;
                      n = Read(sockfd, buf, MAXLINE);
                      if (n == 0) {
                          for (j = 0; j <= maxi; j++) {
                              if (client[j] == sockfd) {
                                  client[j] = -1;
                                  break;
                              }
                          }
                          res = epoll_ctl(efd, EPOLL_CTL_DEL, sockfd, NULL);
                          if (res == -1)
                              perr_exit("epoll_ctl");
    
                          Close(sockfd);
                          printf("client[%d] closed connection\n", j);
                      } else {
                          for (j = 0; j < n; j++)
                              buf[j] = toupper(buf[j]);
                          Writen(sockfd, buf, n);
                      }
                  }
              }
          }
          close(listenfd);
          close(efd);
          return 0;
      }
  • client

      /* client.c */
      #include <stdio.h>
      #include <string.h>
      #include <unistd.h>
      #include <netinet/in.h>
      #include "wrap.h"
    
      #define MAXLINE 80
      #define SERV_PORT 6666
    
      int main(int argc, char *argv[])
      {
          struct sockaddr_in servaddr;
          char buf[MAXLINE];
          int sockfd, n;
    
          sockfd = Socket(AF_INET, SOCK_STREAM, 0);
    
          bzero(&servaddr, sizeof(servaddr));
          servaddr.sin_family = AF_INET;
          inet_pton(AF_INET, "127.0.0.1", &servaddr.sin_addr);
          servaddr.sin_port = htons(SERV_PORT);
    
          Connect(sockfd, (struct sockaddr *)&servaddr, sizeof(servaddr));
    
          while (fgets(buf, MAXLINE, stdin) != NULL) {
              Write(sockfd, buf, strlen(buf));
              n = Read(sockfd, buf, MAXLINE);
              if (n == 0)
                  printf("the other side has been closed.\n");
              else
                  Write(STDOUT_FILENO, buf, n);
          }
    
          Close(sockfd);
          return 0;
      }

epoll进阶

事件模型

  • EPOLL事件有两种模型:
    • Edge Triggered (ET) 边缘触发只有数据到来才触发,不管缓存区中是否还有数据。
    • Level Triggered (LT) 水平触发只要有数据都会触发。
  • 思考如下步骤:
    • 1.假定我们已经把一个用来从管道中读取数据的文件描述符(RFD)添加到epoll描述符。
    • 2.管道的另一端写入了2KB的数据
    • 3.调用epoll_wait,并且它会返回RFD,说明它已经准备好读取操作
    • 4.读取1KB的数据
    • 5.调用epoll_wait……
  • 在这个过程中,有两种工作模式:

    • ET模式
      • ET模式即Edge Triggered工作模式。
      • 如果我们在第1步将RFD添加到epoll描述符的时候使用了EPOLLET标志,那么在第5步调用epoll_wait之后将有可能会挂起,因为剩余的数据还存在于文件的输入缓冲区内,而且数据发出端还在等待一个针对已经发出数据的反馈信息。只有在监视的文件句柄上发生了某个事件的时候 ET 工作模式才会汇报事件。因此在第5步的时候,调用者可能会放弃等待仍在存在于文件输入缓冲区内的剩余数据。epoll工作在ET模式的时候,必须使用非阻塞套接口,以避免由于一个文件句柄的阻塞读/阻塞写操作把处理多个文件描述符的任务饿死。最好以下面的方式调用ET模式的epoll接口,在后面会介绍避免可能的缺陷。
        • 1)基于非阻塞文件句柄
        • 2)只有当read或者write返回EAGAIN(非阻塞读,暂时无数据)时才需要挂起、等待。但这并不是说每次read时都需要循环读,直到读到产生一个EAGAIN才认为此次事件处理完成,当read返回的读到的数据长度小于请求的数据长度时,就可以确定此时缓冲中已没有数据了,也就可以认为此事读事件已处理完成。
    • LT模式
      • LT模式即Level Triggered工作模式。
      • 与ET模式不同的是,以LT方式调用epoll接口的时候,它就相当于一个速度比较快的poll,无论后面的数据是否被使用。
      • LT(level triggered):LT是缺省的工作方式,并且同时支持block和no-block socket。在这种做法中,内核告诉你一个文件描述符是否就绪了,然后你可以对这个就绪的fd进行IO操作。如果你不作任何操作,内核还是会继续通知你的,所以,这种模式编程出错误可能性要小一点。传统的select/poll都是这种模型的代表。
      • ET(edge-triggered):ET是高速工作方式,只支持no-block socket。在这种模式下,当描述符从未就绪变为就绪时,内核通过epoll告诉你。然后它会假设你知道文件描述符已经就绪,并且不会再为那个文件描述符发送更多的就绪通知。请注意,如果一直不对这个fd作IO操作(从而导致它再次变成未就绪),内核不会发送更多的通知(only once).

实例一:

  • 基于管道epoll ET触发模式

      #include <stdio.h>
      #include <stdlib.h>
      #include <sys/epoll.h>
      #include <errno.h>
      #include <unistd.h>
    
      #define MAXLINE 10
    
      int main(int argc, char *argv[])
      {
          int efd, i;
          int pfd[2];
          pid_t pid;
          char buf[MAXLINE], ch = 'a';
    
          pipe(pfd);
          pid = fork();
          if (pid == 0) {
              close(pfd[0]);
              while (1) {
                  for (i = 0; i < MAXLINE/2; i++)
                      buf[i] = ch;
                  buf[i-1] = '\n';
                  ch++;
    
                  for (; i < MAXLINE; i++)
                      buf[i] = ch;
                  buf[i-1] = '\n';
                  ch++;
    
                  write(pfd[1], buf, sizeof(buf));
                  sleep(2);
              }
              close(pfd[1]);
          } else if (pid > 0) {
              struct epoll_event event;
              struct epoll_event resevent[10];
              int res, len;
              close(pfd[1]);
    
              efd = epoll_create(10);
              /* event.events = EPOLLIN; */
              event.events = EPOLLIN | EPOLLET;       /* ET 边沿触发 ,默认是水平触发 */
              event.data.fd = pfd[0];
          epoll_ctl(efd, EPOLL_CTL_ADD, pfd[0], &event);
    
              while (1) {
                  res = epoll_wait(efd, resevent, 10, -1);
                  printf("res %d\n", res);
                  if (resevent[0].data.fd == pfd[0]) {
                      len = read(pfd[0], buf, MAXLINE/2);
                      write(STDOUT_FILENO, buf, len);
                  }
              }
              close(pfd[0]);
              close(efd);
          } else {
              perror("fork");
              exit(-1);
          }
          return 0;
      }

实例二:

  • 基于网络C/S模型的epoll ET触发模式
  • server

      /* server.c */
      #include <stdio.h>
      #include <string.h>
      #include <netinet/in.h>
      #include <arpa/inet.h>
      #include <signal.h>
      #include <sys/wait.h>
      #include <sys/types.h>
      #include <sys/epoll.h>
      #include <unistd.h>
    
      #define MAXLINE 10
      #define SERV_PORT 8080
    
      int main(void)
      {
          struct sockaddr_in servaddr, cliaddr;
          socklen_t cliaddr_len;
          int listenfd, connfd;
          char buf[MAXLINE];
          char str[INET_ADDRSTRLEN];
          int i, efd;
    
          listenfd = socket(AF_INET, SOCK_STREAM, 0);
    
          bzero(&servaddr, sizeof(servaddr));
          servaddr.sin_family = AF_INET;
          servaddr.sin_addr.s_addr = htonl(INADDR_ANY);
          servaddr.sin_port = htons(SERV_PORT);
    
          bind(listenfd, (struct sockaddr *)&servaddr, sizeof(servaddr));
    
          listen(listenfd, 20);
    
          struct epoll_event event;
          struct epoll_event resevent[10];
          int res, len;
          efd = epoll_create(10);
          event.events = EPOLLIN | EPOLLET;       /* ET 边沿触发 ,默认是水平触发 */
    
          printf("Accepting connections ...\n");
          cliaddr_len = sizeof(cliaddr);
          connfd = accept(listenfd, (struct sockaddr *)&cliaddr, &cliaddr_len);
          printf("received from %s at PORT %d\n",
                  inet_ntop(AF_INET, &cliaddr.sin_addr, str, sizeof(str)),
                  ntohs(cliaddr.sin_port));
    
          event.data.fd = connfd;
          epoll_ctl(efd, EPOLL_CTL_ADD, connfd, &event);
    
          while (1) {
              res = epoll_wait(efd, resevent, 10, -1);
              printf("res %d\n", res);
              if (resevent[0].data.fd == connfd) {
                  len = read(connfd, buf, MAXLINE/2);
                  write(STDOUT_FILENO, buf, len);
              }
          }
          return 0;
      }
  • client

      /* client.c */
      #include <stdio.h>
      #include <string.h>
      #include <unistd.h>
      #include <netinet/in.h>
    
      #define MAXLINE 10
      #define SERV_PORT 8080
    
      int main(int argc, char *argv[])
      {
          struct sockaddr_in servaddr;
          char buf[MAXLINE];
          int sockfd, i;
          char ch = 'a';
    
          sockfd = socket(AF_INET, SOCK_STREAM, 0);
    
          bzero(&servaddr, sizeof(servaddr));
          servaddr.sin_family = AF_INET;
          inet_pton(AF_INET, "127.0.0.1", &servaddr.sin_addr);
          servaddr.sin_port = htons(SERV_PORT);
    
          connect(sockfd, (struct sockaddr *)&servaddr, sizeof(servaddr));
    
          while (1) {
              for (i = 0; i < MAXLINE/2; i++)
                  buf[i] = ch;
              buf[i-1] = '\n';
              ch++;
    
              for (; i < MAXLINE; i++)
                  buf[i] = ch;
              buf[i-1] = '\n';
              ch++;
    
              write(sockfd, buf, sizeof(buf));
              sleep(10);
          }
          Close(sockfd);
          return 0;
      }

实例三:

  • 基于网络C/S非阻塞模型的epoll ET触发模式
  • server

      /* server.c */
      #include <stdio.h>
      #include <string.h>
      #include <netinet/in.h>
      #include <arpa/inet.h>
      #include <sys/wait.h>
      #include <sys/types.h>
      #include <sys/epoll.h>
      #include <unistd.h>
      #include <fcntl.h>
    
      #define MAXLINE 10
      #define SERV_PORT 8080
    
      int main(void)
      {
          struct sockaddr_in servaddr, cliaddr;
          socklen_t cliaddr_len;
          int listenfd, connfd;
          char buf[MAXLINE];
          char str[INET_ADDRSTRLEN];
          int i, efd, flag;
    
          listenfd = socket(AF_INET, SOCK_STREAM, 0);
    
          bzero(&servaddr, sizeof(servaddr));
          servaddr.sin_family = AF_INET;
          servaddr.sin_addr.s_addr = htonl(INADDR_ANY);
          servaddr.sin_port = htons(SERV_PORT);
    
          bind(listenfd, (struct sockaddr *)&servaddr, sizeof(servaddr));
    
          listen(listenfd, 20);
    
          struct epoll_event event;
          struct epoll_event resevent[10];
          int res, len;
          efd = epoll_create(10);
          /* event.events = EPOLLIN; */
          event.events = EPOLLIN | EPOLLET;       /* ET 边沿触发 ,默认是水平触发 */
    
          printf("Accepting connections ...\n");
          cliaddr_len = sizeof(cliaddr);
          connfd = accept(listenfd, (struct sockaddr *)&cliaddr, &cliaddr_len);
          printf("received from %s at PORT %d\n",
                  inet_ntop(AF_INET, &cliaddr.sin_addr, str, sizeof(str)),
                  ntohs(cliaddr.sin_port));
    
          flag = fcntl(connfd, F_GETFL);
          flag |= O_NONBLOCK;
          fcntl(connfd, F_SETFL, flag);
          event.data.fd = connfd;
          epoll_ctl(efd, EPOLL_CTL_ADD, connfd, &event);
    
          while (1) {
              printf("epoll_wait begin\n");
              res = epoll_wait(efd, resevent, 10, -1);
              printf("epoll_wait end res %d\n", res);
    
              if (resevent[0].data.fd == connfd) {
                  while ((len = read(connfd, buf, MAXLINE/2)) > 0)
                      write(STDOUT_FILENO, buf, len);
              }
          }
          return 0;
      }
  • client

      /* client.c */
      #include <stdio.h>
      #include <string.h>
      #include <unistd.h>
      #include <netinet/in.h>
    
      #define MAXLINE 10
      #define SERV_PORT 8080
    
      int main(int argc, char *argv[])
      {
          struct sockaddr_in servaddr;
          char buf[MAXLINE];
          int sockfd, i;
          char ch = 'a';
    
          sockfd = socket(AF_INET, SOCK_STREAM, 0);
    
          bzero(&servaddr, sizeof(servaddr));
          servaddr.sin_family = AF_INET;
          inet_pton(AF_INET, "127.0.0.1", &servaddr.sin_addr);
          servaddr.sin_port = htons(SERV_PORT);
    
          connect(sockfd, (struct sockaddr *)&servaddr, sizeof(servaddr));
    
          while (1) {
              for (i = 0; i < MAXLINE/2; i++)
                  buf[i] = ch;
              buf[i-1] = '\n';
              ch++;
    
              for (; i < MAXLINE; i++)
                  buf[i] = ch;
              buf[i-1] = '\n';
              ch++;
    
              write(sockfd, buf, sizeof(buf));
              sleep(10);
          }
          Close(sockfd);
          return 0;
      }

线程池并发服务器

  • 1.预先创建阻塞于accept多线程,使用互斥锁上锁保护accept
  • 2.预先创建多线程,由主线程调用accept

UDP服务器

  • 传输层主要应用的协议模型有两种,一种是TCP协议,另外一种则是UDP协议。TCP协议在网络通信中占主导地位,绝大多数的网络通信借助TCP协议完成数据传输。但UDP也是网络通信中不可或缺的重要通信手段。

  • 相较于TCP而言,UDP通信的形式更像是发短信。不需要在数据传输之前建立、维护连接。只专心获取数据就好。省去了三次握手的过程,通信速度可以大大提高,但与之伴随的通信的稳定性和正确率便得不到保证。因此,我们称UDP为“无连接的不可靠报文传递”。

  • 那么与我们熟知的TCP相比,UDP有哪些优点和不足呢?由于无需创建连接,所以UDP开销较小,数据传输速度快,实时性较强。多用于对实时性要求较高的通信场合,如视频会议、电话会议等。但随之也伴随着数据传输不可靠,传输数据的正确率、传输顺序和流量都得不到控制和保证。所以,通常情况下,使用UDP协议进行数据传输,为保证数据的正确性,我们需要在应用层添加辅助校验协议来弥补UDP的不足,以达到数据可靠传输的目的。

  • 与TCP类似的,UDP也有可能出现缓冲区被填满后,再接收数据时丢包的现象。由于它没有TCP滑动窗口的机制,通常采用如下两种方法解决:
    • 1)服务器应用层设计流量控制,控制发送数据速度。
    • 2)借助setsockopt函数改变接收缓冲区大小。如:

        #include <sys/socket.h>
        int setsockopt(int sockfd, int level, int optname, const void *optval, socklen_t optlen);
            int n = 220x1024
            setsockopt(sockfd, SOL_SOCKET, SO_RCVBUF, &n, sizeof(n));

C/S模型-UDP

UDP处理模型

  • 由于UDP不需要维护连接,程序逻辑简单了很多,但是UDP协议是不可靠的,保证通讯可靠性的机制需要在应用层实现。
  • 编译运行server,在两个终端里各开一个client与server交互,看看server是否具有并发服务的能力。用Ctrl+C关闭server,然后再运行server,看此时client还能否和server联系上。和前面TCP程序的运行结果相比较,体会无连接的含义。

  • server

      #include <string.h>
      #include <netinet/in.h>
      #include <stdio.h>
      #include <unistd.h>
      #include <strings.h>
      #include <arpa/inet.h>
      #include <ctype.h>
    
      #define MAXLINE 80
      #define SERV_PORT 6666
    
      int main(void)
      {
          struct sockaddr_in servaddr, cliaddr;
          socklen_t cliaddr_len;
          int sockfd;
          char buf[MAXLINE];
          char str[INET_ADDRSTRLEN];
          int i, n;
    
          sockfd = socket(AF_INET, SOCK_DGRAM, 0);
    
          bzero(&servaddr, sizeof(servaddr));
          servaddr.sin_family = AF_INET;
          servaddr.sin_addr.s_addr = htonl(INADDR_ANY);
          servaddr.sin_port = htons(SERV_PORT);
    
          bind(sockfd, (struct sockaddr *)&servaddr, sizeof(servaddr));
          printf("Accepting connections ...\n");
    
          while (1) {
              cliaddr_len = sizeof(cliaddr);
              n = recvfrom(sockfd, buf, MAXLINE,0, (struct sockaddr *)&cliaddr, &cliaddr_len);
              if (n == -1)
                  perror("recvfrom error");
              printf("received from %s at PORT %d\n", 
                      inet_ntop(AF_INET, &cliaddr.sin_addr, str, sizeof(str)),
                      ntohs(cliaddr.sin_port));
              for (i = 0; i < n; i++)
                  buf[i] = toupper(buf[i]);
    
              n = sendto(sockfd, buf, n, 0, (struct sockaddr *)&cliaddr, sizeof(cliaddr));
              if (n == -1)
                  perror("sendto error");
          }
          close(sockfd);
          return 0;
      }
  • client

      #include <stdio.h>
      #include <string.h>
      #include <unistd.h>
      #include <netinet/in.h>
      #include <arpa/inet.h>
      #include <strings.h>
      #include <ctype.h>
    
      #define MAXLINE 80
      #define SERV_PORT 6666
    
      int main(int argc, char *argv[])
      {
          struct sockaddr_in servaddr;
          int sockfd, n;
          char buf[MAXLINE];
    
          sockfd = socket(AF_INET, SOCK_DGRAM, 0);
    
          bzero(&servaddr, sizeof(servaddr));
          servaddr.sin_family = AF_INET;
          inet_pton(AF_INET, "127.0.0.1", &servaddr.sin_addr);
          servaddr.sin_port = htons(SERV_PORT);
    
          while (fgets(buf, MAXLINE, stdin) != NULL) {
              n = sendto(sockfd, buf, strlen(buf), 0, (struct sockaddr *)&servaddr, sizeof(servaddr));
              if (n == -1)
                  perror("sendto error");
              n = recvfrom(sockfd, buf, MAXLINE, 0, NULL, 0);
              if (n == -1)
                  perror("recvfrom error");
              write(STDOUT_FILENO, buf, n);
          }
          close(sockfd);
          return 0;
      }

多播(组播)

  • 组播组可以是永久的也可以是临时的。组播组地址中,有一部分由官方分配的,称为永久组播组。永久组播组保持不变的是它的ip地址,组中的成员构成可以发生变化。永久组播组中成员的数量都可以是任意的,甚至可以为零。那些没有保留下来供永久组播组使用的ip组播地址,可以被临时组播组利用。

      224.0.0.0~224.0.0.255       为预留的组播地址(永久组地址),地址224.0.0.0保留不做分配,其它地址供路由协议使用;
      224.0.1.0~224.0.1.255       是公用组播地址,可以用于Internet;欲使用需申请。
      224.0.2.0~238.255.255.255   为用户可用的组播地址(临时组地址),全网范围内有效;
      239.0.0.0~239.255.255.255   为本地管理组播地址,仅在特定的本地范围内有效。
  • 可使用ip ad命令查看网卡编号,如:

      itcast$ ip ad
      1: lo: <LOOPBACK,UP,LOWER_UP> mtu 65536 qdisc noqueue state UNKNOWN group default 
          link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
          inet 127.0.0.1/8 scope host lo
             valid_lft forever preferred_lft forever
          inet6 ::1/128 scope host 
             valid_lft forever preferred_lft forever
      2: eth0: <NO-CARRIER,BROADCAST,MULTICAST,UP> mtu 1500 qdisc pfifo_fast state DOWN group default qlen 1000
          link/ether 00:0c:29:0a:c4:f4 brd ff:ff:ff:ff:ff:ff
          inet6 fe80::20c:29ff:fe0a:c4f4/64 scope link 
             valid_lft forever preferred_lft forever
    • if_nametoindex 命令可以根据网卡名,获取网卡序号。
  • server

      #include <stdio.h>
      #include <stdlib.h>
      #include <sys/types.h>
      #include <sys/socket.h>
      #include <string.h>
      #include <unistd.h>
      #include <arpa/inet.h>
      #include <net/if.h>
    
      #define SERVER_PORT 6666
      #define CLIENT_PORT 9000
      #define MAXLINE 1500
      #define GROUP "239.0.0.2"
    
      int main(void)
      {
          int sockfd, i ;
          struct sockaddr_in serveraddr, clientaddr;
          char buf[MAXLINE] = "itcast\n";
          char ipstr[INET_ADDRSTRLEN]; /* 16 Bytes */
          socklen_t clientlen;
          ssize_t len;
          struct ip_mreqn group;
    
          /* 构造用于UDP通信的套接字 */
          sockfd = socket(AF_INET, SOCK_DGRAM, 0);
    
          bzero(&serveraddr, sizeof(serveraddr));
          serveraddr.sin_family = AF_INET; /* IPv4 */
          serveraddr.sin_addr.s_addr = htonl(INADDR_ANY); /* 本地任意IP INADDR_ANY = 0 */
          serveraddr.sin_port = htons(SERVER_PORT);
    
          bind(sockfd, (struct sockaddr *)&serveraddr, sizeof(serveraddr));
    
          /*设置组地址*/
          inet_pton(AF_INET, GROUP, &group.imr_multiaddr);
          /*本地任意IP*/
          inet_pton(AF_INET, "0.0.0.0", &group.imr_address);
          /* eth0 --> 编号 命令:ip ad */
          group.imr_ifindex = if_nametoindex("eth0");
          setsockopt(sockfd, IPPROTO_IP, IP_MULTICAST_IF, &group, sizeof(group));
    
          /*构造 client 地址 IP+端口 */
          bzero(&clientaddr, sizeof(clientaddr));
          clientaddr.sin_family = AF_INET; /* IPv4 */
          inet_pton(AF_INET, GROUP, &clientaddr.sin_addr.s_addr);
          clientaddr.sin_port = htons(CLIENT_PORT);
    
          while (1) {
              //fgets(buf, sizeof(buf), stdin);
              sendto(sockfd, buf, strlen(buf), 0, (struct sockaddr *)&clientaddr, sizeof(clientaddr));
              sleep(1);
          }
          close(sockfd);
          return 0;
      }
  • client

      #include <netinet/in.h>
      #include <stdio.h>
      #include <sys/types.h>
      #include <sys/socket.h>
      #include <arpa/inet.h>
      #include <string.h>
      #include <stdlib.h>
      #include <sys/stat.h>
      #include <unistd.h>
      #include <fcntl.h>
      #include <net/if.h>
    
      #define SERVER_PORT 6666
      #define MAXLINE 4096
      #define CLIENT_PORT 9000
      #define GROUP "239.0.0.2"
    
      int main(int argc, char *argv[])
      {
          struct sockaddr_in serveraddr, localaddr;
          int confd;
          ssize_t len;
          char buf[MAXLINE];
    
          /* 定义组播结构体 */
          struct ip_mreqn group;
          confd = socket(AF_INET, SOCK_DGRAM, 0);
    
          //初始化本地端地址
          bzero(&localaddr, sizeof(localaddr));
          localaddr.sin_family = AF_INET;
          inet_pton(AF_INET, "0.0.0.0" , &localaddr.sin_addr.s_addr);
          localaddr.sin_port = htons(CLIENT_PORT);
    
          bind(confd, (struct sockaddr *)&localaddr, sizeof(localaddr));
    
          /*设置组地址*/
          inet_pton(AF_INET, GROUP, &group.imr_multiaddr);
          /*本地任意IP*/
          inet_pton(AF_INET, "0.0.0.0", &group.imr_address);
          /* eth0 --> 编号 命令:ip ad */
          group.imr_ifindex = if_nametoindex("eth0");
          /*设置client 加入多播组 */
          setsockopt(confd, IPPROTO_IP, IP_ADD_MEMBERSHIP, &group, sizeof(group));
    
          while (1) {
              len = recvfrom(confd, buf, sizeof(buf), 0, NULL, 0);
              write(STDOUT_FILENO, buf, len);
          }
          close(confd);
          return 0;
      }

socket IPC(本地套接字domain)

  • socket API原本是为网络通讯设计的,但后来在socket的框架上发展出一种IPC机制,就是UNIX Domain Socket。虽然网络socket也可用于同一台主机的进程间通讯(通过loopback地址127.0.0.1),但是UNIX Domain Socket用于IPC更有效率:不需要经过网络协议栈,不需要打包拆包、计算校验和、维护序号和应答等,只是将应用层数据从一个进程拷贝到另一个进程。这是因为,IPC机制本质上是可靠的通讯,而网络协议是为不可靠的通讯设计的。UNIX Domain Socket也提供面向流和面向数据包两种API接口,类似于TCP和UDP,但是面向消息的UNIX Domain Socket也是可靠的,消息既不会丢失也不会顺序错乱。

  • UNIX Domain Socket是全双工的,API接口语义丰富,相比其它IPC机制有明显的优越性,目前已成为使用最广泛的IPC机制,比如X Window服务器和GUI程序之间就是通过UNIXDomain Socket通讯的。

  • 使用UNIX Domain Socket的过程和网络socket十分相似,也要先调用socket()创建一个socket文件描述符,address family指定为AF_UNIX,type可以选择SOCK_DGRAM或SOCK_STREAM,protocol参数仍然指定为0即可。

  • UNIX Domain Socket与网络socket编程最明显的不同在于地址格式不同,用结构体sockaddr_un表示,网络编程的socket地址是IP地址加端口号,而UNIX Domain Socket的地址是一个socket类型的文件在文件系统中的路径,这个socket文件由bind()调用创建,如果调用bind()时该文件已存在,则bind()错误返回。

  • 对比网络套接字地址结构和本地套接字地址结构:

      struct sockaddr_in {
      __kernel_sa_family_t sin_family;            /* Address family */    地址结构类型
      __be16 sin_port;                        /* Port number */       端口号
      struct in_addr sin_addr;                    /* Internet address */  IP地址
      };
      struct sockaddr_un {
      __kernel_sa_family_t sun_family;        /* AF_UNIX */           地址结构类型
      char sun_path[UNIX_PATH_MAX];       /* pathname */      socket文件名(含路径)
      };
  • 以下程序将UNIX Domain socket绑定到一个地址。

      size = offsetof(struct sockaddr_un, sun_path) + strlen(un.sun_path);
      #define offsetof(type, member) ((int)&((type *)0)->MEMBER)
  • server

      #include <stdlib.h>
      #include <stdio.h>
      #include <stddef.h>
      #include <sys/socket.h>
      #include <sys/un.h>
      #include <sys/types.h>
      #include <sys/stat.h>
      #include <unistd.h>
      #include <errno.h>
    
      #define QLEN 10
      /*
      * Create a server endpoint of a connection.
      * Returns fd if all OK, <0 on error.
      */
      int serv_listen(const char *name)
      {
          int fd, len, err, rval;
          struct sockaddr_un un;
    
          /* create a UNIX domain stream socket */
          if ((fd = socket(AF_UNIX, SOCK_STREAM, 0)) < 0)
              return(-1);
          /* in case it already exists */
          unlink(name);           
    
          /* fill in socket address structure */
          memset(&un, 0, sizeof(un));
          un.sun_family = AF_UNIX;
          strcpy(un.sun_path, name);
          len = offsetof(struct sockaddr_un, sun_path) + strlen(name);
    
          /* bind the name to the descriptor */
          if (bind(fd, (struct sockaddr *)&un, len) < 0) {
              rval = -2;
              goto errout;
          }
          if (listen(fd, QLEN) < 0) { /* tell kernel we're a server */
              rval = -3;
              goto errout;
          }
          return(fd);
    
      errout:
          err = errno;
          close(fd);
          errno = err;
          return(rval);
      }
      int serv_accept(int listenfd, uid_t *uidptr)
      {
          int clifd, len, err, rval;
          time_t staletime;
          struct sockaddr_un un;
          struct stat statbuf;
    
          len = sizeof(un);
          if ((clifd = accept(listenfd, (struct sockaddr *)&un, &len)) < 0)
              return(-1); /* often errno=EINTR, if signal caught */
    
          /* obtain the client's uid from its calling address */
          len -= offsetof(struct sockaddr_un, sun_path); /* len of pathname */
          un.sun_path[len] = 0; /* null terminate */
    
          if (stat(un.sun_path, &statbuf) < 0) {
              rval = -2;
              goto errout;
          }
          if (S_ISSOCK(statbuf.st_mode) == 0) {
              rval = -3; /* not a socket */
              goto errout;
          }
          if (uidptr != NULL)
              *uidptr = statbuf.st_uid; /* return uid of caller */
          /* we're done with pathname now */
          unlink(un.sun_path); 
          return(clifd);
    
      errout:
          err = errno;
          close(clifd);
          errno = err;
          return(rval);
      }
      int main(void)
      {
          int lfd, cfd, n, i;
          uid_t cuid;
          char buf[1024];
          lfd = serv_listen("foo.socket");
    
          if (lfd < 0) {
              switch (lfd) {
                  case -3:perror("listen"); break;
                  case -2:perror("bind"); break;
                  case -1:perror("socket"); break;
              }
              exit(-1);
          }
          cfd = serv_accept(lfd, &cuid);
          if (cfd < 0) {
              switch (cfd) {
                  case -3:perror("not a socket"); break;
                  case -2:perror("a bad filename"); break;
                  case -1:perror("accept"); break;
              }
              exit(-1);
          }
          while (1) {
      r_again:
              n = read(cfd, buf, 1024);
              if (n == -1) {
              if (errno == EINTR)
              goto r_again;
          }
          else if (n == 0) {
              printf("the other side has been closed.\n");
              break;
          }
          for (i = 0; i < n; i++)
              buf[i] = toupper(buf[i]);
              write(cfd, buf, n);
          }
          close(cfd);
          close(lfd);
          return 0;
      }
  • client

      #include <stdio.h>
      #include <stdlib.h>
      #include <stddef.h>
      #include <sys/stat.h>
      #include <fcntl.h>
      #include <unistd.h>
      #include <sys/socket.h>
      #include <sys/un.h>
      #include <errno.h>
    
      #define CLI_PATH "/var/tmp/" /* +5 for pid = 14 chars */
      /*
      * Create a client endpoint and connect to a server.
      * Returns fd if all OK, <0 on error.
      */
      int cli_conn(const char *name)
      {
          int fd, len, err, rval;
          struct sockaddr_un un;
    
          /* create a UNIX domain stream socket */
          if ((fd = socket(AF_UNIX, SOCK_STREAM, 0)) < 0)
              return(-1);
    
          /* fill socket address structure with our address */
          memset(&un, 0, sizeof(un));
          un.sun_family = AF_UNIX;
          sprintf(un.sun_path, "%s%05d", CLI_PATH, getpid());
          len = offsetof(struct sockaddr_un, sun_path) + strlen(un.sun_path);
    
          /* in case it already exists */
          unlink(un.sun_path); 
          if (bind(fd, (struct sockaddr *)&un, len) < 0) {
              rval = -2;
              goto errout;
          }
    
          /* fill socket address structure with server's address */
          memset(&un, 0, sizeof(un));
          un.sun_family = AF_UNIX;
          strcpy(un.sun_path, name);
          len = offsetof(struct sockaddr_un, sun_path) + strlen(name);
          if (connect(fd, (struct sockaddr *)&un, len) < 0) {
              rval = -4;
              goto errout;
          }
      return(fd);
          errout:
          err = errno;
          close(fd);
          errno = err;
          return(rval);
      }
      int main(void)
      {
          int fd, n;
          char buf[1024];
    
          fd = cli_conn("foo.socket");
          if (fd < 0) {
              switch (fd) {
                  case -4:perror("connect"); break;
                  case -3:perror("listen"); break;
                  case -2:perror("bind"); break;
                  case -1:perror("socket"); break;
              }
              exit(-1);
          }
          while (fgets(buf, sizeof(buf), stdin) != NULL) {
              write(fd, buf, strlen(buf));
              n = read(fd, buf, sizeof(buf));
              write(STDOUT_FILENO, buf, n);
          }
          close(fd);
          return 0;
      }

其它常用函数

名字与地址转换

  • gethostbyname根据给定的主机名,获取主机信息。
  • 过时,仅用于IPv4,且线程不安全。

      #include <stdio.h>
      #include <netdb.h>
      #include <arpa/inet.h>
    
      extern int h_errno;
    
      int main(int argc, char *argv[])
      {
          struct hostent *host;
          char str[128];
          host = gethostbyname(argv[1]);
          printf("%s\n", host->h_name);
    
          while (*(host->h_aliases) != NULL)
              printf("%s\n", *host->h_aliases++);
    
          switch (host->h_addrtype) {
              case AF_INET:
                  while (*(host->h_addr_list) != NULL)
                  printf("%s\n", inet_ntop(AF_INET, (*host->h_addr_list++), str, sizeof(str)));
              break;
              default:
                  printf("unknown address type\n");
                  break;
          }
          return 0;
      }
  • gethostbyaddr函数。
  • 此函数只能获取域名解析服务器的url和/etc/hosts里登记的IP对应的域名。

      #include <stdio.h>
      #include <netdb.h>
      #include <arpa/inet.h>
    
      extern int h_errno;
    
      int main(int argc, char *argv[])
      {
          struct hostent *host;
          char str[128];
          struct in_addr addr;
    
          inet_pton(AF_INET, argv[1], &addr);
          host = gethostbyaddr((char *)&addr, 4, AF_INET);
          printf("%s\n", host->h_name);
    
          while (*(host->h_aliases) != NULL)
              printf("%s\n", *host->h_aliases++);
          switch (host->h_addrtype) {
              case AF_INET:
                  while (*(host->h_addr_list) != NULL)
                  printf("%s\n", inet_ntop(AF_INET, (*host->h_addr_list++), str, sizeof(str)));
                  break;
              default:
                  printf("unknown address type\n");
                  break;
          }
          return 0;
      }
  • getservbyname
  • getservbyport
    • 根据服务程序名字或端口号获取信息。使用频率不高。
  • getaddrinfo
  • getnameinfo
  • freeaddrinfo
    • 可同时处理IPv4和IPv6,线程安全的。

套接口和地址关联

  • getsockname
    • 根据accpet返回的sockfd,得到临时端口号
  • getpeername
    • 根据accpet返回的sockfd,得到远端链接的端口号,在exec后可以获取客户端信息。
  • 1
    点赞
  • 0
    评论
  • 4
    收藏
  • 一键三连
    一键三连
  • 扫一扫,分享海报

©️2021 CSDN 皮肤主题: 大白 设计师:CSDN官方博客 返回首页
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、C币套餐、付费专栏及课程。

余额充值