一、TCP/IP简介
计算机为了联网,就必须规定通信协议,早期的计算机网络都是由各厂商自己规定一套协议,如IBM、Apple和Microsoft都有各自的网络协议,互不兼容,这就好比一群人有的说英语,有的说中文,有的说德语,说同一种语言的人可以交流,不同的语言之间就不行了。
为了把全世界的所有不同类型的计算机都连接起来,就必须规定一套全球通用的协议,为了实现互联网这个目标,互联网协议簇(Internet Protocol Suite)就是通用协议标准。Internet是由inter和net两个单词组合起来的,原意就是连接“网络”的网络,有了Internet,任何私有网络,只要支持这个协议,就可以联入互联网。
因为互联网协议包含了上百种协议标准,但是最重要的两个协议是TCP和IP协议,所以,大家把互联网的协议简称TCP/IP协议。通信的时候,双方必须知道对方的标识,好比发邮件必须知道对方的邮件地址。互联网上每个计算机的唯一标识就是IP地址,类似192.168.0.1
。如果一台计算机同时接入到两个或更多的网络,比如路由器,它就会有两个或多个IP地址,所以,IP地址对应的实际上是计算机的网络接口,通常是网卡。
IP协议负责把数据从一台计算机通过网络发送到另一台计算机。数据被分割成一小块一小块,然后通过IP包发送出去。由于互联网链路复杂,两台计算机之间经常有多条线路,因此,路由器就负责决定如何把一个IP包转发出去。IP包的特点是按块发送,途径多个路由,但不保证能到达,也不保证顺序到达。
TCP协议则是建立在IP协议之上的。TCP协议负责在两台计算机之间建立可靠连接,保证数据包按顺序到达。TCP协议会通过握手建立连接,然后,对每个IP包编号,确保对方按顺序收到,如果包丢掉了,就自动重发。许多常用的更高级的协议都是建立在TCP协议基础上的,比如用于浏览器的HTTP协议、发送邮件的SMTP协议等。一个TCP报文除了包含要传输的数据外,还包含源IP地址和目标IP地址,源端口和目标端口。端口有什么作用?在两台计算机通信时,只发IP地址是不够的,因为同一台计算机上跑着多个网络程序。一个TCP报文来了之后,到底是交给浏览器还是QQ,就需要端口号来区分。每个网络程序都向操作系统申请唯一的端口号,这样,两个进程在两台计算机之间建立网络连接就需要各自的IP地址和各自的端口号。一个进程也可能同时与多个计算机建立链接,因此它会申请很多端口。
以下列出了 Python 网络编程的一些重要模块:
协议 | 功能用处 | 端口号 | Python 模块 |
---|---|---|---|
HTTP | 网页访问 | 80 | httplib, urllib, xmlrpclib |
NNTP | 阅读和张贴新闻文章,俗称为"帖子" | 119 | nntplib |
FTP | 文件传输 | 21 | ftplib, urllib |
SMTP | 发送邮件 | 25 | smtplib |
POP3 | 接收邮件 | 110 | poplib |
IMAP4 | 获取邮件 | 143 | imaplib |
Telnet | 命令行 | 23 | telnetlib |
Gopher | 信息查找 | 70 | gopherlib, urllib |
二、TCP编程
Python 提供了两个级别访问的网络服务:
- 低级别的网络服务支持基本的 Socket,它提供了标准的 BSD Sockets API,可以访问底层操作系统Socket接口的全部方法。
- 高级别的网络服务模块 SocketServer, 它提供了服务器中心类,可以简化网络服务器的开发。
1.socket
socket又称“套接字”,应用程序通常通过“套接字”像网络发出请求或者应答网络请求,使主机间或者一台计算机上的进程间可以通讯。
2.客户端
大多数连接都是可靠的TCP连接。创建TCP连接时,主动发起连接的叫客户端,被动响应连接的叫服务器。举个例子,当我们在浏览器中访问谷歌时,我们自己的计算机就是客户端,浏览器会主动向谷歌的服务器发起连接。如果一切顺利,谷歌的服务器接受了我们的连接,一个TCP连接就建立起来的,后面的通信就是发送网页内容了。所以,我们要创建一个基于TCP连接的Socket,可以这样做:
import socket #导入socket库
'''
用socket()函数创建套接字,语法格式socket.socket([family[,type[,proto]]])
family: 套接字家族可以使AF_UNIX或者AF_INET,AF_INET指定使用IPv4协议,如果要用更先进的IPv6,就指定为AF_INET6。
SOCK_STREAM指定使用面向流的TCP协议,这样,一个Socket对象就创建成功,但是还没有建立连接。
type: 套接字类型可以根据是面向连接的还是非连接分为SOCK_STREAM或SOCK_DGRAM
protocol: 一般不填默认为0.
'''
#创建一个socket
s = socket.socket(socket.AF_INET,socket.SOCK_STREAM)
#建立连接
s.connect(('www.baidu.com',80))#客户端主动发起TCP连接,参数是一个tuple,包含地址和端口号
#发送数据,TCP连接创建的是双向通道,双方都可以同时给对方发数据。但是谁先发谁后发,怎么协调,要根据具体的协议来决定。
# 例如,HTTP协议规定客户端必须先发请求给服务器,服务器收到后才发数据给客户端。发送的文本格式必须符合HTTP标准,如果格式没问题,接下来就可以接收新浪服务器返回的数据了:
s.send(b'GET / HTTP/1.1\r\nHost: www.baidu.com\r\nConnection: close\r\n\r\n')#这里要求返回首页内容
#接收数据
buffer = []
while True:
#接收数据时,调用recv(max)方法,一次最多接收指定的字节数,因此,在一个while循环中反复接收,直到recv()返回空数据,表示接收完毕,退出循环。
d = s.recv(1024)
if d:
buffer.append(d)
else:
break
data = b''.join(buffer)
#关闭连接
s.close() #接收完数据后,调用close()方法关闭Socket,这样,一次完整的网络通信就结束了
#把HTTP头和网页分离,把HTTP头打印出来,网页内容保存到文件中
header,html = data.split(b'\r\n\r\n',1)
print(header.decode('utf-8'))
#把接收的数据写入文件
with open('baidu.html','wb') as f:
f.write(html)
运行,控制台输出内容见下,除此以外还生成一个baidu.html文件,在浏览器中打开这个baidu.html
文件,就可以看到百度的首页了。
HTTP/1.1 200 OK
Accept-Ranges: bytes
Cache-Control: no-cache
Content-Length: 14615
Content-Type: text/html
Date: Mon, 15 Jul 2019 02:52:50 GMT
Etag: "5d26d345-3917"
Last-Modified: Thu, 11 Jul 2019 06:12:21 GMT
P3p: CP=" OTI DSP COR IVA OUR IND COM "
Pragma: no-cache
Server: BWS/1.1
Set-Cookie: BAIDUID=ABAD5D93DFE183CAF2DA2092886215A9:FG=1; expires=Thu, 31-Dec-37 23:55:55 GMT; max-age=2147483647; path=/; domain=.baidu.com
Set-Cookie: BIDUPSID=ABAD5D93DFE183CAF2DA2092886215A9; expires=Thu, 31-Dec-37 23:55:55 GMT; max-age=2147483647; path=/; domain=.baidu.com
Set-Cookie: PSTM=1563159170; expires=Thu, 31-Dec-37 23:55:55 GMT; max-age=2147483647; path=/; domain=.baidu.com
Vary: Accept-Encoding
X-Ua-Compatible: IE=Edge,chrome=1
Connection: close
Process finished with exit code 0
3.服务器端
服务器端编程相比客户端就要复杂一些。服务器进程首先要绑定一个端口并监听来自其他客户端的连接。如果某个客户端连接过来了,服务器就与该客户端建立socket连接,随后通信就靠这个socket连接了。所以,服务器会打开固定端口(比如80)监听,每来一个客户端连接,就创建该socket连接。由于服务器会有大量来自客户端的连接,所以,服务器要能够区分一个socket连接是和哪个客户端绑定的。一个socket依赖4项:服务器地址、服务器端口、客户端地址、客户端端口来唯一确定一个socket。但是服务器还需要同时相应多个客户端的请求,所以,每个连接都需要一个新的进程或者新的线程来处理,否则,服务器一次就只能服务一个客户端了。
接下来简单编写一个服务器程序,它接收客户端连接,把客户端发过来的字符串加上Hello再发回去:
'''
服务器端程序,把客户端发过来的字符串加上Hello再发给客户端
'''
import socket
import threading,time
#创建基于IPV4和TCP协议的socket
s = socket.socket(socket.AF_INET,socket.SOCK_STREAM)
#绑定监听地址和端口,服务器可能有多块网卡,可以绑定到某一块网卡的IP地址上,也可以用0.0.0.0绑定到所有的网络地址,还可以用127.0.0.1绑定到本机地址。
# 127.0.0.1是一个特殊的IP地址,表示本机地址,如果绑定到这个地址,客户端必须同时在本机运行才能连接,也就是说,外部的计算机无法连接进来。
s.bind(('127.0.0.1',9999)) #端口号需要预先指定,这里使用9999端口,小于1024端口号必须有管理员权限才可以绑定
#监听端口
s.listen(5) #传入参数指定等待连接最大数量
print("Waiting for connection...")
#创建新线程来处理连接,否则单线程在处理连接的过程中,无法接受其他客户端的连接
def tcplink(sock,addr):
print("Accept new connection from %s:%s...' % addr")
sock.send(b'Welcome!')
while True:
data = sock.recv(1024)
time.sleep(1)
if not data or data.decode('utf-8') == 'exit':
break
sock.send(('Hello,%s!' %data.decode('utf-8')).encode('utf-8'))
sock.close()
print("Connection from %s:%s closed.' % addr")
#通过永久循环来接受来自客户端的连接
while True:
#接受一个新连接
sock,addr = s.accept()
#创建新线程来处理TCP连接
t = threading.Thread(target=tcplink, args=(sock,addr))
t.start()
连接建立后,服务器首先发一条欢迎消息,然后等待客户端数据,并加上Hello
再发送给客户端。如果客户端发送了exit
字符串,就直接关闭连接。要测试这个服务器程序,我们还需要编写一个客户端程序:
'''
客户端程序
'''
import socket
s = socket.socket(socket.AF_INET,socket.SOCK_STREAM)
#建立连接
s.connect(('127.0.0.1',9999))
#接受欢迎消息
print(s.recv(1024).decode('utf-8'))
for data in [b'Alian',b'Bob',b'Cidy']:
#发送数据
s.send(data)
print(s.recv(1024).decode('utf-8'))
s.send(b'exit')
s.close()
首先运行服务器端程序,然后运行客户端程序,输出信息如下:,(需要注意的是,客户端程序运行完毕就结束了,而服务器端程序会永远执行下去,需要手动关闭退出!)
#服务器端输出如下:
E:\PythonWorkspace\venv1\Scripts\python.exe E:/PythonWorkspace/pythonlearning/day2/TCP_server.py
Waiting for connection...
Accept new connection from 127.0.0.1:39062...
Connection from 127.0.0.1:39062 closed.
#客户端输出如下:
E:\PythonWorkspace\venv1\Scripts\python.exe E:/PythonWorkspace/pythonlearning/day2/TCP_client.py
Welcome!
Hello,Alian!
Hello,Bob!
Hello,Cidy!
Process finished with exit code 0
总结:用TCP协议进行socket编程,对于客户端,要主动连接服务器的IP和指定端口,对于服务器,要首先监听指定端口,然后,对于每一个新的连接,创建一个线程或进程来处理。通常,服务器程序会无限运行下去。同一个端口,被一个socket绑定了以后,就不能被别的socket绑定了。
三、UDP编程
TCP是建立可靠连接,并且通信双方可以以流的形式发送数据。相对TCP,UDP则是面向无连接的协议。使用UDP协议时,不需要建立连接,只需要知道对方的IP地址和端口号,就可以直接发数据包。但是,能不能到达就不知道了。虽然用UDP传输数据不可靠,但是它的优点是和TCP相比,速度快,对于不要求可靠到达的数据,就可以使用UDP协议。
接下来我们看一下如何通过UDP协议传输数据,和TCP类似,使用UDP协议通信双方也分为客户端和服务器端,首先看一下服务器端:
'''
服务器端程序
'''
import socket
s = socket.socket(socket.AF_INET,socket.SOCK_DGRAM) #创建Socket时,SOCK_DGRAM指定了这个Socket的类型是UDP。
#绑定端口
s.bind(('127.0.0.1',9999))
#这里不需要调用listen()方法监听端口,而是直接接收来自任何客户端的数据
print('Bind UDP on 9999...')
#通过永久循环接收来自客户端的请求
while True:
#接收数据
data,addr = s.recvfrom(1024)#recvfrom()方法返回数据和客户端的地址与端口,这样服务器收到数据后,直接调用sendto()就可以把数据用UDP发给客户端
print('Received from %s:%s.' %addr)
s.sendto(b'Hello,%s!'%data,addr)
接下来看一下客户端:
'''
客户端程序
'''
import socket
#创建基于UDP的socket
s = socket.socket(socket.AF_INET,socket.SOCK_DGRAM)
for data in [b'Alia',b'Bob',b'Cidy']:
#发送数据
s.sendto(data,('127.0.0.1',9999)) #通过sendto()给服务器发数据
#接收数据
print(s.recv(1024).decode('utf-8'))
s.close()
仍然先运行服务器端程序,再运行客户端程序,结果如下:
#服务器端运行结果
E:\PythonWorkspace\venv1\Scripts\python.exe E:/PythonWorkspace/pythonlearning/day2/UDP_server.py
Bind UDP on 9999...
Received from 127.0.0.1:54613.
Received from 127.0.0.1:54613.
Received from 127.0.0.1:54613.
#客户端运行结果
E:\PythonWorkspace\venv1\Scripts\python.exe E:/PythonWorkspace/pythonlearning/day2/UDP_client.py
Hello,Alia!
Hello,Bob!
Hello,Cidy!
Process finished with exit code 0
总结:UDP与TCP类似,但是不需要建立连接。此外,服务器绑定UDP端口和TCP端口互不冲突,也就是说,UDP的9999端口与TCP的9999端口可以各自绑定。