Python
文章平均质量分 81
ImomoTo
希望在技术的道路上 能于君共勉 越走越远
展开
-
爬虫库requests使用(2)高级使用
文章目录1、文件上传2、Cookies(cookies)3、会话维持(Session)4、SSL验证(verify)5、代理设置(proxies)6、超时设置(timeout)7、身份认证(auth)8、Prepared Request 上一篇我们记录了requests的GET、POST请求和Response,这篇我们记录requests库的一些高级用法,比如文件上传,Cookies设置,代理设置。1、文件上传import requestsmfile = {'file': open("D:\\f原创 2021-02-03 16:20:03 · 204 阅读 · 0 评论 -
爬虫库requests使用(1)基本使用
文章目录一、requests安装二、基本使用用例三、GET请求3.1、GET基本请求3.4、抓取二进制数据四、POST请求五、响应一、requests安装Github : https:github.com/requests/requests官方文档: http://www.python-requests.orgPyPI :https://pypi.python.org/pypi/requestspip安装pip install requestswheel安装安装wheel库pip in原创 2021-01-28 18:03:36 · 211 阅读 · 0 评论 -
爬虫库urllib使用(4)分析Robots协议
文章目录一、Robots协议二、爬虫名称三、robotparser一、Robots协议 Robots协议也称作爬虫协议,机器人协议,网络爬虫排除协议,用来告诉爬虫哪些页面是可以爬取的,哪些页面是不可爬取的。它通常是一个robots.txt的文本文件,一般放在网站的根目录上。 当爬虫访问一个站点的时候,会首先检查这个站点目录是否存在robots.txt文件,如果存在,搜索爬虫会根据其中定义的爬取范围进行爬取。如果没有找到这个文件,搜索爬虫会访问所有可直接访问的页面。User-agent:*Dis原创 2021-01-26 10:18:17 · 299 阅读 · 0 评论 -
爬虫库urllib使用(3) 解析链接
文章目录1、说明2、urlparse()3、urlunparse()4、urlspilt()5、urlunspilt()6、urljoin()1、说明 urllib库提供了parse模块, 它定义了处理url的标准接口,实现url各部分饿抽取,合并以及链接的转换。2、urlparse()实现URL的识别和分段from urllib.parse import urlparseresult = urlparse("http://wwww,baidu.com/index.html;user?id=5原创 2021-01-25 14:27:34 · 443 阅读 · 1 评论 -
爬虫库urllib使用(2) 处理异常
文章目录一、说明二、URLError三、HTTPError一、说明 在我们请求的过程中会遇到网络不好或者程序连接有问题的情况,如果这些异常不处理,程序可能会因为报错而终止运行。二、URLError URLError类来自于urllib库的error模块,是error异常模块中的基类,由request模块中的异常都可以通过这个类处理。from urllib import request,errortry: responde = request.urlopen("https://ww原创 2021-01-21 15:49:22 · 224 阅读 · 0 评论 -
爬虫库urllib使用(1)发送请求
文章目录一、官方地址二、urllib库说明三、发送请求3.1、urlopen()3.2、request()3.3、高级用法(1)、BaseHandler类(2)、验证(3)、代理(4)、Cookies一、官方地址https://docs.python.org/3/library/urllib.html二、urllib库说明urllib是Python内置的HTTP请求库,它主要包含4个模块request: 最基本的HTTP模块,用来模拟发送请求error:异常处理模块,如果出现请求错误,可以捕获原创 2021-01-19 18:08:08 · 812 阅读 · 0 评论 -
Windows下MYSQL的安装及脱坑
文章目录一、官网网址二、下载地址三、安装步骤四、坑位一、官网网址https://www.mysql.com/二、下载地址https://dev.mysql.com/downloads/mysql/三、安装步骤(1)、从下载页面选择自己对应的操作系统和需要的版本(这里步骤以Window为准)(2)、下周压缩包后,进行解压(3)、在mysql目录下,bin目录同级下,新建一个文件mysql.inimysql.ini中配置一些基础信息[client]# 设置mysql客户端默认字符集de原创 2021-01-11 15:01:50 · 151 阅读 · 3 评论