Python 理解使用requests库爬取数据

requests库是爬取数据的第三方库,安装方法:

pip3 install requests

用法:

r = requests.get(url)

r 是返回的response对象,有五个最常用的属性:

属性说明
r.status_codeHTTP返回的请求状态,200表示成功,400表示失败
r.textHTTP响应内容的字符串形式,即url对应的页面内容
r.encodingHTTPheader中猜测的响应内容编码方式
r.apparent_encoding从内容中分析出的响应内容编码方式(备选编码方式)
r.contentHTTP响应的二进制形式

r.encoding:若header中没有charset字段,则认为编码为ISO-8859-1

r.apparent_encoding:是根据返回的HTTP内容而不是响应头部分,分析出的编码方式

有时,爬取的数据会出现乱码,可能就是响应头中的没有charset字段,默认编码ISO-8859-1,这时候可以通过修改响应的编码方式来获取我们想要的数据:

r.encoding = 'utf-8'

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值