python3.8安装urllib库_python3中urllib的基本使用

urllib

在python3中,urllib和urllib2进行了合并,现在只有一个urllib模块,urllib和urllib2的中的内容整合进了urllib.request,urlparse整合进了urllib.parse

urlparse  将urlstr解析成各个组件

#-*- coding:utf-8 -*-

importurllib.requestimporturllib.parse

url= "http://www.baidu.com"parsed=urllib.parse.urlparse(url)print(parsed)#输出:ParseResult(scheme='http', netloc='www.baidu.com', path='', params='', query='', fragment='')

urljoin(baseurl,newurl,allowFrag=None)  将url的根域名和新url拼合成一个完整的url

importurllib.parse

url= "http://www.baidu.com"new_path= urllib.parse.urljoin(url,"index.html")print(new_path)#输出:http://www.baidu.com/index.html

urlopen(url,data,timeout)  打开一个url的方法,返回一个文件对象,然后可以进行类似文件对象的操作

importurllib.request

req= urllib.request.urlopen('http://www.baidu.com')print(req.read())

read() , readline() , readlines() , fileno() , close()

info():返回一个httplib.HTTPMessage 对象,表示远程服务器返回的头信息。

getcode():返回Http状态码,如果是http请求,200表示请求成功完成;404表示网址未找到。

geturl():返回请求的url。

urlretrieve(url,filename,reporthook,data)  下载url定位到的html文件,不写路径filename则会被存为临时文件可以用 urllib.urlcleanup() 来清理缓存

file_name = urllib.request.urlretrieve('http://www.baidu.com','%s/baidu.html'%BASE_DIR)

urlencode()   将dict中的键值对以连接符&划分

importurllib.parse

dic= {'name':'melon','age':18}

data=urllib.parse.urlencode(dic)print(data) #age=18&name=melon

GET请求

GET请求 和我们平常get访问方式一样,直接把参数写到网址上面就好了

importurllib.requestimporturllib.parse

dic= {'name':'melon','age':18}

data=urllib.parse.urlencode(dic)

req= urllib.request.urlopen('http://127.0.0.1:8000/index?%s'%data)

content= req.read()

POST请求

importurllib.requestimporturllib.parseimportjson

dic= {'name':'melon','age':18}

data=urllib.parse.urlencode(dic)

req= urllib.request.Request('http://127.0.0.1:8000/index', data.encode())

opener=urllib.request.urlopen(req)

content= json.loads(opener.read().decode())

当你 urllib.urlopen一个 https 的时候会验证一次 SSL 证书,当目标使用的是自签名的证书时就会出现一个URLError,如果是这样可以在开头加上

importssl

ssl._create_default_https_context= ssl._create_unverified_context

【为什么学爬虫?】        1、爬虫入手容易,但是深入较难,如何写出高效率的爬虫,如何写出灵活性高可扩展的爬虫都是一项技术活。另外在爬虫过程,经常容易遇到被反爬虫,比如字体反爬、IP识别、验证码等,如何层层攻克难点拿到想要的数据,这门课程,你都能学到!        2、如果是作为一个其他行业的开发者,比如app开发,web开发,学习爬虫能让你加强对技术的认知,能够开发出更加安全的软件和网站 【课程设计】 一个完整的爬虫程序,无论大小,总体来说可以分成三个步骤,分别是:网络请求:模拟浏览器的行为从网上抓取数据。数据解析:将请求下来的数据进行过滤,提取我们想要的数据。数据存储:将提取到的数据存储到硬盘或者内存。比如用mysql数据或者redis等。那么本课程也是按照这几个步骤循序渐进的进行讲解,带领学生完整的掌握每个步骤的技术。另外,因为爬虫的多样性,在爬取的过程可能会发生被反爬、效率低下等。因此我们又增加了两个章节用来提高爬虫程序的灵活性,分别是:爬虫进阶:包括IP代理,多线程爬虫,图形验证码识别、JS加密解密、动态网页爬虫、字体反爬识别等。Scrapy和分布式爬虫:Scrapy框架、Scrapy-redis组件、分布式爬虫等。通过爬虫进阶的知识点我们能应付大量的反爬网站,而Scrapy框架作为一个专业的爬虫框架,使用他可以快速提高我们编写爬虫程序的效率和速度。另外如果一台机器不能满足你的需求,我们可以用分布式爬虫让多台机器帮助你快速爬取数据。 从基础爬虫到商业化应用爬虫,本套课程满足您的所有需求!【课程服务】 专属付费社群+定期答疑
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值