python网络爬虫网页前端编程基础、Socket库、使用Socket进行TCP编程、认识HTTP协议、熟悉Cookie等。_python的socket库

本文链接：https://blog.csdn.net/m0_63174618/article/details/138492832

本文介绍了Python的学习资源，包括学习路线、必备工具、视频教程、实战练习、面试准备，以及如何通过Socket进行TCP和UDP编程，以及HTTP协议和Cookie的运用。强调了系统化学习和社区支持的重要性。

摘要由CSDN通过智能技术生成

最后

Python崛起并且风靡，因为优点多、应用领域广、被大牛们认可。学习 Python 门槛很低，但它的晋级路线很多，通过它你能进入机器学习、数据挖掘、大数据，CS等更加高级的领域。Python可以做网络应用，可以做科学计算，数据分析，可以做网络爬虫，可以做机器学习、自然语言处理、可以写游戏、可以做桌面应用…Python可以做的很多，你需要学好基础，再选择明确的方向。这里给大家分享一份全套的 Python 学习资料，给那些想学习 Python 的小伙伴们一点帮助！

👉Python所有方向的学习路线👈

Python所有方向的技术点做的整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。

👉Python必备开发工具👈

工欲善其事必先利其器。学习Python常用的开发软件都在这里了，给大家节省了很多时间。

👉Python全套学习视频👈

我们在看视频学习的时候，不能光动眼动脑不动手，比较科学的学习方法是在理解之后运用它们，这时候练手项目就很适合了。

👉实战案例👈

学python就与学数学一样，是不能只看书不做题的，直接看步骤和答案会让人误以为自己全都掌握了，但是碰到生题的时候还是会一筹莫展。

因此在学习python的过程中一定要记得多动手写代码，教程只需要看一两遍即可。

👉大厂面试真题👈

我们学习Python必然是为了找到高薪的工作，下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料，并且有阿里大佬给出了权威的解答，刷完这一套面试资料相信大家都能找到满意的工作。

需要这份系统化学习资料的朋友，可以戳这里获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

公共Socket函数：socket库中的公共函数即可在服务器端使用也可在客户端使用，为通用函数。


语法格式	描述
socket.settimeout(timeout)	设置套接字操作的超时时间，timeout是一个浮点数，单位是秒，值为None时表示永远不会超时。超时时间应在刚创建套接字时设置，因为它们可能用于连接的操作，如s.connect()
socket.gettimeout()	返回当前超时值，单位是秒，如果没有设置超时则返回None
socket.fileno()	返回套接字的文件描述
socket.makefile()	创建一个与该套接字相关的文件

使用Socket进行TCP编程

TCP连接由客户端发起，服务器对连接进行响应。建立一个服务器，服务器进程需要绑定一个端口并监听来自其他客户端的连接。若有客户端发起连接请求，服务器就与该客户端建立Socket连接，随后的通信就通过此Socket连接进行。服务器依赖服务器地址，服务器端口，客户端地址，客户端端口这4项来唯一确定一个Socket连接。

1. 服务器端TCP连接

建立服务器端的TCP连接，具体步骤如下。

在Python中创建一个基于IPv4和TCP协议的Socket。

绑定监听的地址和端口，地址使用本机地址“127.0.0.1”或“local host”，使用大于1024的端口。

调用listen方法开始监听端口，传入的参数指定等待连接的最大数量，设定为5。

创建一个tcp函数，该函数在连接建立后，服务器端首先发出一条表示连接成功的消息，然后等待客户端数据，再加上欢迎信息发送给客户端。若客户端发送exit字符串，则直接关闭连接。

通过一个循环接受来自客户端的连接，使用accept函数等待并返回一个客户端的连接，每个连接都分配一个新线程来处理。

2. 客户端TCP连接

在服务器端TCP连接建立后，建立客户端TCP连接进行测试，具体步骤如下。

与服务器端的协议保持一致，也建立一个基于IPv4和TCP协议的Socket。

与服务器端建立连接，连接的地址与端口需与服务器端保持一致。

使用recv函数接受服务器提示信息，之后再使用send函数发送数据至服务器，可看到服务器返回的结果。

TCP建立的连接可靠，通信双方以流的形式互相传送数据。相对TCP协议，UDP则是面向无连接的协议。

使用UDP协议时，无需建立连接的过程，仅需知道对方的IP地址及端口号，便可直接发送数据包，但无法保证能顺利传达到。

虽然用UDP传输数据不可靠，但其传输速度比TCP快，对于不要求可靠到达的数据，就可以使用UDP协议。

UDP传输通常应用在通讯实时性要求更高于可靠性场景，例如网络游戏。

使用Socket进行UDP编程

1. 服务器端UDP连接

UDP连接与TCP连接类似，也分为服务器端和客户端，不同的是UDP连接无需调用listen方法，直接接受来自任何客户端的数据。

建立UDP连接，服务器端同样需要绑定地址与端口。

使用recvfrom方法返回数据及客户端的地址与端口。

当服务器收到数据后，直接调用sendto把数据用UDP发给客户端。

2. 客户端UDP连接

客户端使用UDP连接时同样需要先创建socket。

之后无需使用connect方法，直接用sendto方法发送数据至服务器建立UDP连接，服务器端同样需要绑定地址与端口。

UDP连接与TCP连接可同时使用同一端口互不冲突，两者使用的端口是独立绑定的。

认识HTTP协议

HTTP请求方式与过程

爬虫在爬取数据时将会作为客户端模拟整个HTTP通信过程，该过程也需要通过HTTP协议实现。HTTP请求过程如下。

由HTTP客户端向服务器发起一个请求，创建一个到服务器指定端口（默认是80端口）的TCP连接。

HTTP服务器从该端口监听客户端的请求。

一旦收到请求，服务器会向客户端返回一个状态，比如“HTTP/1.1 200 OK”，以及返回的响应内容，如请求的文件、错误消息、或其它信息。

1. 请求方法

在HTTP/1.1协议中共定义了8种方法（也叫“动作”）来以不同方式操作指定的资源，常用方法有GET、HEAD、POST等。


请求方法	方法描述
GET	请求指定的页面信息，并返回实体主体。GET可能会被网络爬虫等随意访问，因此GET方法应该只用在读取数据，而不应当被用于产生“副作用”的操作中，例如在Web Application中
HEAD	与GET方法一样，都是向服务器发出指定资源的请求。只不过服务器将不传回具体的内容，使用这个方法可以在不必传输全部内容的情况下，就可以获取其中该资源的相关信息（元信息或称元数据）
POST	向指定资源提交数据，请求服务器进行处理（例如提交表单或者上传文件）。数据会被包含在请求中，这个请求可能会创建新的资源或修改现有资源，或二者皆有
PUT	从客户端上传指定资源的最新内容，即更新服务器端的指定资源。

2. 请求（request）与响应（response）

HTTP协议采用了请求／响应模型。

客户端向服务器发送一个请求报文，请求报文包含请求的方法、URL、协议版本、请求头部和请求数据。

服务器以一个状态行作为响应，响应的内容包括协议的版本、响应状态、服务器信息、响应头部和响应数据。

客户端与服务器间的请求与响应的具体步骤如下。

**连接Web服务器：**由一个HTTP客户端发起连接，与Web服务器的HTTP端口（默认为80）建立一个TCP套接字连接。

**发送HTTP请求：**客户端经TCP套接字向Web服务器发送一个文本的请求报文。

**服务器接受请求并返回HTTP响应：**Web服务器解析请求，定位该次的请求资源。之后将资源复本写至TCP套接字，由客户端进行读取。

**释放连接TCP连接：**若连接的connection模式为close，则由服务器主动关闭TCP连接，客户端将被动关闭连接，释放TCP连接；若connection模式为keepalive，则该连接会保持一段时间。

**客户端解析HTML内容：**客户端首先会对状态行进行解析，之后解析每一个响应头，最后读取响应数据。

常见HTTP状态码

1. HTTP状态码种类

HTTP状态码是用来表示网页服务器响应状态的3位数字代码，按首位数字分为5类状态码。


状态码类型	状态码意义
1XX	表示请求已被接受，需接后续处理。这类响应是临时响应，只包含状态行和某些可选的响应头信息，并以空行结束
2XX	表示请求已成功被服务器接收、理解并接受
3XX	表示需要客户端采取进一步的操作才能完成请求。通常用来重定向，重定向目标需在本次响应中指明
4XX	表示客户端可能发生了错误，妨碍了服务器的处理。
5XX	表示服务器在处理请求的过程中有错误或者异常状态发生，也有可能是服务器以当前的软硬件资源无法完成对请求的处理。

HTTP状态码详解点这里

HTTP状态码共有67种状态码，常见的状态码如下。


常见状态码	状态码含义
200 OK	请求成功，请求所希望的响应头或数据体将随此响应返回。
400 Bad Request	由于客户端的语法错误、无效的请求或欺骗性路由请求，服务器不会处理该请求
403 Forbidden	服务器已经理解该请求，但是拒绝执行，将在返回的实体内描述拒绝的原因，也可以不描述仅返回404响应
404 Not Found	请求失败，请求所希望得到的资源未被在服务器上发现，但允许用户的后续请求
500 Internal Server Error	通用错误消息，服务器遇到了一个未曾预料的状况，导致了它无法完成对请求的处理，不会给出具体错误信息
503 Service Unavailable	由于临时的服务器维护或者过载，服务器当前无法处理请求。这个状况是暂时的，并且将在一段时间以后恢复

HTTP头部信息（HTTP header fields）是指在超文本传输协议（HTTP）的请求和响应消息中的消息头部分。头部信息定义了一个超文本传输协议事务中的操作参数。在爬虫中需要使用头部信息向服务器发送模拟信息，通过发送模拟的头部信息将自己伪装成一般的客户端。

1. HTTP头部类型

HTTP头部类型按用途可分为：通用头，请求头，响应头，实体头。

**通用头：**既适用于客户端的请求头，也适用于服务端的响应头。与HTTP消息体内最终传输的数据是无关的，只适用于要发送的消息。

**请求头：**提供更为精确的描述信息，其对象为所请求的资源或请求本身。新版HTTP增加的请求头不能在更低版本的HTTP中使用，但服务器和客户端若都能对相关头进行处理，则可以在请求中使用。

**响应头：**为响应消息提供了更多信息。例如，关于资源位置的描述Location字段，以及关于服务器本身的描述使用Server字段等。与请求头类似，新版增加的响应头也不能在更低版本的HTTP版本中使用。

**实体头：**提供了关于消息体的描述。如消息体的长度Content-Length，消息体的MIME类型Content-Type。新版的实体头可以在更低版本的HTTP版本中使用。


字段名	说明	示例
Accept	可接受的响应内容类型（Content-Types）	Accept: text/plain
Accept-Charset	可接受的字符集	Accept-Charset:utf-8
Accept-Encoding	可接受的响应内容的编码方式	Accept-Encoding:gzip,deflate
Accept-Language	可接受的响应内容语言列表	Accept-Language:en-US
Cookie	由之前服务器通过Set-Cookie设置的一个HTTP协议Cookie	Cookie:$Version=1;Skin=new;
Referer	设置前一个页面的地址，并且前一个页面中的连接指向当前请求，意思就是如果当前请求是在A页面中发送的，那么referer就是A页面的url地址	Referer:http://zh.wikipedia.org/wiki/Main_Page
User-Agent	用户代理的字符串值	User-Agent:Mozilla/5.0(X11;Linuxx86_64;rv:12.0)Gecko/20100101Firefox/21.0