Python Requests的更多设置

获取网站最简单的方法

import requests
page = request.get(url)

.

根据应用场景,可能要加入其它参数

  1. 为防页面响应时间过长,影响后面的程序运行,可以给程序限制时间:
  2. 为防爬虫限制,可以设置headers
    在我个人的应用场景中,各大网站要不随便我访问,要不封锁我的IP,并不看user-agent
  3. 为防网站注明的编码方式和实际的编码方式不一样,在获得网页后,输出网页内容前,需要处理编码方式
    原理:根据网站的全部内容判断其编码方式。消耗一点计算资源,访问五花八门的网站时,有必要加此操作
  4. 程序出错时,为了便于解决问题,需要获取错误代码【status_code】
import requests

def get_page():
	data = {'user-agent':"Mozilla/5.0"}
	page = requests.get(url, headers = data, timeout = 30)
	print(page.status_code)
	page.encoding = page.apparent_encoding
	return page.text

get_page()

.

调试完成后,加上try…except…结构

当程序调试后,大部分的问题都已妥善处理时,可以用try…excep…t结构,防止程序因小错误、罕见的错误中断

import requests

def get_page():
	try:
		data = {'user-agent':"Mozilla/5.0"}
		page = requests.get(url, headers = data, timeout = 30)
		print(page.status_code)
		page.encoding = page.apparent_encoding
		return page.text
	except:
		pass

get_page()
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Ailsa2019

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值