python爬虫之cookie与URLErroe异常处理

最新推荐文章于 2024-01-22 11:40:11 发布

黎明之道

最新推荐文章于 2024-01-22 11:40:11 发布

阅读量486

点赞数

分类专栏： python爬虫文章标签： python session cookie ajax 爬虫

本文链接：https://blog.csdn.net/sjjsaaaa/article/details/111227976

版权

本文探讨了Python爬虫中如何处理Cookie，包括Opener和Cookielib的使用，以及如何保存和读取Cookie。同时，介绍了面对URLError异常，特别是404和11001状态码时的处理策略，如使用代理IP解决IP被封问题。

摘要由CSDN通过智能技术生成

一、cookie

Cookie，指某些网站为了辨别用户身份、进行session跟踪而储存在用户本地终端上的数据（通常经过加密).

比如说有些网站需要登录后才能访问某个页面，在登录之前，你想抓取某个页面内容是不允许的。那么我们可以利用Urllib库保存我们登录的Cookie，然后再抓取其他页面就达到目的了。

Opener

当你获取一个URL你使用一个opener(一个urlib.OpenerDirector的实例)。在前面，我们都是使用的默认的opener，也就是urlopen。它是一个特殊的opener，可以理解成opener的一个特殊实例，传入的参数仅仅是url， data，timeout.

如果我们需要用到Cookie，只用这个opener是不能达到目的的，所以我们需要创建更一般的opener来实现对Cookie的设置

Cookielib

cookielib模块的主要作用是提供可存储cookie的对象，以便于与urllib模块配合使用来访问Internet资源。Cookielib模块非常强大，我们可以利用本模块的CookieJar类的对像来捕获cookie并在后续连接请求时重新发送，比如可以实现模拟登录功能。该模块主要的对象有CookieJar、FileCookieJar、MozillaCookieJar、LwPCookieJar。

案例：
使用账号密码登录到指定页面。

from urllib.request import Request,build_opener,urlopen,HTTPCookieProcessor
from urllib.parse import urlencode
from fake_useragent import UserAgent

#登录
login_url = "https://movie.douban.com/"
headers = {
   "User-Agent":UserAgent().random}
form_data = {
   
    "user":"17703181473",
    "password":"123456"
}

f_data = urlencode(form_data).encode()  #转码
request = Request(login_url,headers=headers,data=f_data)
handler = HTTPCookieProcessor()
opener = build_opener(handler)
response = opener.open(request)

#访问页面
info_url = "https://movie.douban.com/"
request = Request