本节内容:
一、网络基础知识
二、socket概念及相关语法
2.1socket概念
2.2socket解释
2.3socket模块功能介绍
2.4socket粘包问题
2.5Socket多并发
一、网络基础知识
1、OSI七层模型(具体自己百度)
2、TCP/IP四层参考模型(具体自己百度)
他们的对应网络协议如下:协议
今天我们说的socket就在传输层:TCP/IP三次握手建立连接
客户/服务器架构
服务器是一个软件或硬件,用于提供客户需要的“服务”。服务器存在的唯一目的就是等待客户的请求,给这些客户服务,然后再等待其它的请求。另一方面,客户连上一个(预先已知的)服务器,提出自己的请求, 发送必要的数据,然后就等待服务器的完成请求或说明失败原因的反馈。服务器不停地处理外来的请求,而客户一次只能提出一个服务的请求,等待结果。然后结束这个事务。客户之后也可以再提出其它的请求,只是,这个请求会被视为另一个不同的事务了。
二、socket概念及相关语法
socket是TCP/IP中传输层中TCP、UDP的实现方式,用socket编程,可以实现TCP UDP的通信。有一个比较好的比喻方式:socket就是一条管子,连接两段,而TCP、UDP就是管子中的东西
2.1socket概念
socket本质上就是在2台网络互通的电脑之间,架设一个通道,两台电脑通过这个通道来实现数据的互相传递。 我们知道网络 通信 都 是基于 ip+port 方能定位到目标的具体机器上的具体服务,操作系统有0-65535个端口,每个端口都可以独立对外提供服务,如果 把一个公司比做一台电脑 ,那公司的总机号码就相当于ip地址, 每个员工的分机号就相当于端口, 你想找公司某个人,必须 先打电话到总机,然后再转分机 。
建立一个socket必须至少有2端, 一个服务端,一个客户端, 服务端被动等待并接收请求,客户端主动发起请求, 连接建立之后,双方可以互发数据
来看个socket的传递模式:
2.2socket解释
socket通常也称作"套接字",用于描述IP地址和端口,是一个通信链的句柄,应用程序通常通过"套接字"向网络发出请求或者应答网络请求。
socket起源于Unix,而Unix/Linux基本哲学之一就是“一切皆文件”,对于文件用【打开】【读写】【关闭】模式来操作。socket就是该模式的一个实现,socket即是一种特殊的文件,一些socket函数就是对其进行的操作(读/写IO、打开、关闭)
socket和file的区别:
- file模块是针对某个指定文件进行【打开】【读写】【关闭】
- socket模块是针对 服务器端 和 客户端Socket 进行【打开】【读写】【关闭】
我们来看一个简单的socket通信程序:
1 #服务器端 2 3 import socket 4 server = socket.socket() 5 server.bind(('localhost',6969)) #绑定要监听端口 6 server.listen(5) #监听 7 8 print("我要开始等电话了") 9 while True: 10 conn, addr = server.accept() # 等电话打进来 11 # conn就是客户端连过来而在服务器端为其生成的一个连接实例 12 print(conn, addr) 13 print("电话来了") 14 count = 0 15 while True: 16 data = conn.recv(1024) 17 print("recv:",data) 18 if not data: 19 print("client has lost...") 20 break 21 conn.send(data.upper()) 22 count+=1 23 if count >10:break 24 25 server.close()
1 #客户端 2 import socket 3 4 client = socket.socket() #声明socket类型,同时生成socket连接对象 5 client.connect(('localhost',6969)) 6 7 while True: 8 msg = input(">>:").strip() 9 if len(msg) == 0:continue 10 client.send(msg.encode("utf-8")) 11 data = client.recv(1024) 12 print("recv:",data.decode()) 13 14 client.close()
1 import socket 2 3 ip_port = ('127.0.0.1',9999) 4 5 sk = socket.socket() 6 sk.bind(ip_port) 7 sk.listen(5) 8 9 while True: 10 print 'server waiting...' 11 conn,addr = sk.accept() 12 13 client_data = conn.recv(1024) 14 print client_data 15 conn.sendall('不要回答,不要回答,不要回答') 16 17 conn.close()
1 #!/usr/bin/env python 2 # -*- coding:utf-8 -*- 3 import socket 4 ip_port = ('127.0.0.1',9999) 5 6 sk = socket.socket() 7 sk.connect(ip_port) 8 9 sk.sendall('请求占领地球') 10 11 server_reply = sk.recv(1024) 12 print server_reply 13 14 sk.close()
server端:
1 import socket 2 3 ip_port=('127.0.0.1',9008) 4 5 s=socket.socket() #创建对象 6 7 s.bind(ip_port) #bind一个IP地址和短裤哦 8 9 s.listen(2) #开始监听 10 11 while True: 12 print('server waiting...') 13 conn,addr=s.accept() #接受连接并返回(conn,addr),其中conn是新的套接字对象,用来接受也发送数据,addr是连接客户端的地址,此时是阻塞状态 14 15 client_data=conn.recv(1024) #接受套接字的数据,1024是最多可以接受的数量 16 print(client_data.decode().upper()) #bytes格式可以使用decode()解码 17 18 conn.sendall(bytes('fuck XXXXX',encoding='utf8')) #发送数据,注意python3中发送必须是bytes格式的 19 20 conn.close() #关闭套接字
client端:
1 import socket 2 ip_port=('127.0.0.1',9008) 3 4 sk=socket.socket() #创建套接字对象 5 sk.connect(ip_port) #客户端直接连接IP和端口 6 sk.sendall(bytes('hello,world!!!',encoding='utf8')) #发送数据,必须转换为字节再发送 7 rep=sk.recv(1024) #阻塞状态,接受数据,大小为1024 8 print(rep.decode().upper()) #打印,并解码,将结果大写 9 sk.close() #关闭套接字
可以看出来,客户端只需创建类,连接,直接发送接收即可;而服务端需要创建对象,绑定IP端口,监听,开始接受并返回,并且接受到的内容为(新的套接字对象,客户端地址),进行数据交换的是新的套接字对象,并不是刚开始创建的套接字对象,切记,切记!!!!
2.3socket模块功能介绍
sk = socket.socket(socket.AF_INET,socket.SOCK_STREAM,0)
参数一解释:socket.AF_INET:地址簇
socket.AF_INET IPv4(默认)
socket.AF_INET6 IPv6
socket.AF_UNIX 只能够用于单一的Unix系统进程间通信
参数二解释:socket.SOCK_STREAM:类型
socket.SOCK_STREAM 流式socket , for TCP (默认)
socket.SOCK_DGRAM 数据报式socket , for UDP
socket.SOCK_RAW 原始套接字,普通的套接字无法处理ICMP、IGMP等网络报文,而SOCK_RAW可以;其次,SOCK_RAW也可以处理特殊的IPv4报文;此外,利用原始套接字,可以通过IP_HDRINCL套接字选项由用户构造IP头。
socket.SOCK_RDM 是一种可靠的UDP形式,即保证交付数据报但不保证顺序。SOCK_RAM用来提供对原始协议的低级访问,在需要执行某些特殊操作时使用,如发送ICMP报文。SOCK_RAM通常仅限于高级用户或管理员运行的程序使用。
socket.SOCK_SEQPACKET 可靠的连续数据包服务
参数三解释:0:协议
0 (默认)与特定的地址家族相关的协议,如果是 0 ,则系统就会根据地址格式和套接类别,自动选择一个合适的协议
1 import socket 2 ip_port = ('127.0.0.1',9999) 3 sk = socket.socket(socket.AF_INET,socket.SOCK_DGRAM,0) 4 sk.bind(ip_port) 5 6 while True: 7 data = sk.recv(1024) 8 print data 9 10 11 12 13 import socket 14 ip_port = ('127.0.0.1',9999) 15 16 sk = socket.socket(socket.AF_INET,socket.SOCK_DGRAM,0) 17 while True: 18 inp = raw_input('数据:').strip() 19 if inp == 'exit': 20 break 21 sk.sendto(inp,ip_port) 22 23 sk.close()
更多
sk.bind(address)
s.bind(address) 将套接字绑定到地址。address地址的格式取决于地址族。在AF_INET下,以元组(host,port)的形式表示地址。
sk.listen(backlog)
开始监听传入连接。backlog指定在拒绝连接之前,可以挂起的最大连接数量。
backlog等于5,表示内核已经接到了连接请求,但服务器还没有调用accept进行处理的连接个数最大为5
这个值不能无限大,因为要在内核中维护连接队列
sk.setblocking(bool)
是否阻塞(默认True),如果设置False,那么accept和recv时一旦无数据,则报错。
sk.accept()
接受连接并返回(conn,address),其中conn是新的套接字对象,可以用来接收和发送数据。address是连接客户端的地址。
接收TCP 客户的连接(阻塞式)等待连接的到来
sk.connect(address)
连接到address处的套接字。一般,address的格式为元组(hostname,port),如果连接出错,返回socket.error错误。
sk.connect_ex(address)
同上,只不过会有返回值,连接成功时返回 0 ,连接失败时候返回编码,例如:10061
sk.close()
关闭套接字
sk.recv(bufsize[,flag])
接受套接字的数据。数据以字符串形式返回,bufsize指定最多可以接收的数量。flag提供有关消息的其他信息,通常可以忽略。
sk.recvfrom(bufsize[.flag])
与recv()类似,但返回值是(data,address)。其中data是包含接收数据的字符串,address是发送数据的套接字地址。
sk.send(string[,flag])
将string中的数据发送到连接的套接字。返回值是要发送的字节数量,该数量可能小于string的字节大小。即:可能未将指定内容全部发送。
sk.sendall(string[,flag])
将string中的数据发送到连接的套接字,但在返回之前会尝试发送所有数据。成功返回None,失败则抛出异常。
内部通过递归调用send,将所有内容发送出去。
sk.sendto(string[,flag],address)
将数据发送到套接字,address是形式为(ipaddr,port)的元组,指定远程地址。返回值是发送的字节数。该函数主要用于UDP协议。
sk.settimeout(timeout)
设置套接字操作的超时期,timeout是一个浮点数,单位是秒。值为None表示没有超时期。一般,超时期应该在刚创建套接字时设置,因为它们可能用于连接的操作(如 client 连接最多等待5s )
sk.getpeername()
返回连接套接字的远程地址。返回值通常是元组(ipaddr,port)。
sk.getsockname()
返回套接字自己的地址。通常是一个元组(ipaddr,port)
sk.fileno()
套接字的文件描述符
socket.
sendfile
(file, offset=0, count=None)
发送文件 ,但目前多数情况下并用不到。
实例:socket中的 udp demo
1 # 服务端 2 import socket 3 ip_port = ('127.0.0.1',9999) 4 sk = socket.socket(socket.AF_INET,socket.SOCK_DGRAM,0) 5 sk.bind(ip_port) 6 7 while True: 8 data,(host,port) = sk.recvfrom(1024) 9 print(data,host,port) 10 sk.sendto(bytes('ok', encoding='utf-8'), (host,port)) 11 12 13 #客户端 14 import socket 15 ip_port = ('127.0.0.1',9999) 16 17 sk = socket.socket(socket.AF_INET,socket.SOCK_DGRAM,0) 18 while True: 19 inp = input('数据:').strip() 20 if inp == 'exit': 21 break 22 sk.sendto(bytes(inp, encoding='utf-8'),ip_port) 23 data = sk.recvfrom(1024) 24 print(data) 25 26 sk.close() 27 28 UDP
实例:智能机器人
1 #!/usr/bin/env python 2 # -*- coding:utf-8 -*- 3 4 5 import socket 6 7 ip_port = ('127.0.0.1',8888) 8 sk = socket.socket() 9 sk.bind(ip_port) 10 sk.listen(5) 11 12 while True: 13 conn,address = sk.accept() 14 conn.sendall('欢迎致电 10086,请输入1xxx,0转人工服务.') 15 Flag = True 16 while Flag: 17 data = conn.recv(1024) 18 if data == 'exit': 19 Flag = False 20 elif data == '0': 21 conn.sendall('通过可能会被录音.balabala一大推') 22 else: 23 conn.sendall('请重新输入.') 24 conn.close()
1 #!/usr/bin/env python 2 # -*- coding:utf-8 -*- 3 4 import socket 5 6 7 ip_port = ('127.0.0.1',8005) 8 sk = socket.socket() 9 sk.connect(ip_port) 10 sk.settimeout(5) 11 12 while True: 13 data = sk.recv(1024) 14 print 'receive:',data 15 inp = raw_input('please input:') 16 sk.sendall(inp) 17 if inp == 'exit': 18 break 19 20 sk.close()
2.4socket粘包问题
先看一个列子
1 import socket,os 2 3 server = socket.socket() #创建套接字 4 server.bind(("localhost",9999)) #绑定 5 server.listen(5) 6 print("等电话来") 7 while True: 8 print("电话来了") 9 conn,addr = server.accept() 10 print("new conn:",addr) 11 while True: 12 print("等待新指令") 13 data = conn.recv(1024) 14 if not data: 15 print("客户端已断开") 16 break 17 print("执行指令:",data) 18 cmd_res = os.popen(data.decode()).read() #接受字符串,执行结果也是字符串 19 print("before send",len(cmd_res)) 20 if len(cmd_res)==0: 21 cmd_res = 'cmd has no output......' 22 conn.send(str(len(cmd_res)).encode("utf-8")) #先发大小给客户端 23 #time.sleep(0.5) 24 client_ack = conn.recv(1024) # wait client to confirm 25 print("ack from client:",client_ack) 26 conn.send(cmd_res.encode("utf-8")) 27 print("send done") 28 29 server.close()
1 #!/usr/bin/env python 2 # -*-coding=utf-8-*- 3 # Auther:pfjiand Mail:18565800581@163.com Blog:https://blog.csdn.net/weixin_38384902 4 5 6 import socket 7 8 client = socket.socket() 9 10 client.connect(("localhost",9999)) 11 12 while True: 13 cmd = input(">>:").strip() 14 if len(cmd)==0: 15 continue 16 client.send(cmd.encode("utf=8")) 17 cmd_res_size = client.recv(1024) #接受命令结束的长度 18 print("命令结果大小:",cmd_res_size) 19 client.send("准备好了接收了,loser可以发了".encode("utf-8")) #发一个消息 20 21 received_size = 0 22 received_data =b'' 23 while received_size < int(cmd_res_size.decode()): 24 data = client.recv(1024) 25 received_size += len(data) #每次收到的有可能小于1024,所有必须用len判断 26 print(data.decode()) 27 received_data += data 28 29 else: 30 print("cmd res receive done....",received_size) 31 print(received_data.decode()) 32 33 client.close()
sk.recv(1024)中,bufsize值为1024,最多只能接受1024个字节,那么如果client端发送的数据包特别大时,超过了指定的bufsize的值,超过的不分会留在内核缓冲区中,下次调用recv的时候会继续读剩余的字节。这就是所谓的粘包问题,那么怎么解决呢?
类似于http协议,我们可以:
- 在发送之前先告诉接受数据端我要发送数据的字节大小
- 接收数据端收到数据后回复给数据发送端一个确认消息
- 数据发送端收到确认信息后,发送数据
- 数据接收端循环接受数据,直到数据接受完成,收到完整数据包
我们可以来看个例子,模拟一个shell连接的方式:
client端:
1 import socket 2 ip_port=('127.0.0.1',9999) 3 4 s=socket.socket() 5 6 s.connect(ip_port) 7 8 while True: 9 send_data=input('>>:').strip() 10 11 12 if send_data=='exit':break 13 if len(send_data)==0:continue 14 s.send(bytes(send_data,encoding='utf8')) 15 16 ready_tag=s.recv(1024) 17 ready_tag=str(ready_tag,encoding='utf8') 18 if ready_tag.startswith('Ready'): 19 msg_size=int(ready_tag.split('|')[-1]) 20 print(msg_size) 21 start_tag='Start' 22 s.send(bytes(start_tag,encoding='utf8')) 23 24 recv_size=0 25 recv_msg=b'' 26 27 while recv_size < msg_size: 28 recv_data=s.recv(1024) 29 recv_msg+=recv_data 30 recv_size+=len(recv_data) 31 32 print(str(recv_msg,encoding='utf8')) 33 34 35 s.close()
1 import socket,subprocess 2 ip_port=('127.0.0.1',9999) 3 4 s=socket.socket() 5 6 s.bind(ip_port) 7 8 s.listen(5) 9 10 11 while True: 12 conn,addr=s.accept() 13 while True: 14 try: 15 recv_data=conn.recv(1024) 16 if recv_data==0:break 17 p=subprocess.Popen(str(recv_data,encoding='utf8'),shell=True,stdout=subprocess.PIPE) 18 res=p.stdout.read() 19 if len(res)==0: 20 send_data='cmd ERROR' 21 send_data=bytes(send_data,encoding='utf8') 22 else: 23 send_data=res 24 ready_tag='Ready|%s'%len(send_data) 25 conn.send(bytes(ready_tag,encoding='utf8')) 26 27 feedback=conn.recv(1024) 28 feedback=str(feedback,encoding='utf8') 29 30 if feedback.startswith('Start'): 31 conn.send(send_data) 32 33 except Exception as ex: 34 break 35 36 conn.close()
2.5Socket多并发
多线程的socket--socketserver模块
server端:
1 import socketserver 2 3 class MyTCPHandler(socketserver.BaseRequestHandler): 4 def handle(self): 5 while True: 6 try: 7 self.data = self.request.recv(1024).strip() 8 print("{}wrote:".format(self.client_address[0])) 9 print(self.data) 10 self.request.send(self.data.upper()) 11 except ConnectionResetError as e: 12 print("error",e) 13 break 14 15 16 17 if __name__=="__main__": 18 HOST,PORT = "localhost",9999 19 server = socketserver.ThreadingTCPServer((HOST,PORT),MyTCPHandler) #线程,多并发 20 #server = socketserver.ForkingTCPServer((HOST,PORT),MyTCPHandler) #windows上不能使用,linux可以 21 22 server.serve_forever()
client端:
1 import socket 2 3 client = socket.socket() 4 client.connect(("localhost",9999)) 5 while True: 6 msg = input('>>:').strip() 7 if len(msg)==0: 8 continue 9 client.send(msg.encode('utf-8')) 10 data = client.recv(1024) 11 print("recv:",data.decode()) 12 print(type(data)) 13 14 client.close()
仔细来看下server端的code:
- 创建一个派生类,其基类为socketserver.BaseRequestHandler
- 类中必须定义一个名称为 handle 的方法
- 启动ThreadingTCPServer时,先需要创建一个ThreadingTCPServer的实例,需要两个参数,①元组数据(IP,port),②创建的派生类
- 启动为调用ThreadingTCPServer类中的serve_forever方法,永久启动
为什么必须定义一个handle的方法呢?
先看看他的父类BaseRequestHandler源码:
1 class BaseRequestHandler: 2 3 """Base class for request handler classes. 4 5 This class is instantiated for each request to be handled. The 6 constructor sets the instance variables request, client_address 7 and server, and then calls the handle() method. To implement a 8 specific service, all you need to do is to derive a class which 9 defines a handle() method. 10 11 The handle() method can find the request as self.request, the 12 client address as self.client_address, and the server (in case it 13 needs access to per-server information) as self.server. Since a 14 separate instance is created for each request, the handle() method 15 can define arbitrary other instance variariables. 16 17 """ 18 19 def __init__(self, request, client_address, server): 20 self.request = request 21 self.client_address = client_address 22 self.server = server 23 self.setup() 24 try: 25 self.handle() 26 finally: 27 self.finish() 28 29 def setup(self): 30 pass 31 32 def handle(self): 33 pass 34 35 def finish(self): 36 pass
ThreadingTCPServer源码剖析
类的基类关系图如下: