request和bs4

本文介绍了Python中使用requests库进行网络请求的方法,包括向目标地址发送请求、设置响应头和编码、获取请求结果等。同时,讲解了如何利用BeautifulSoup进行网页解析,包括创建BeautifulSoup对象、选取标签以及获取标签内容和属性值。内容涵盖了爬取网页、下载图片的基础操作。
摘要由CSDN通过智能技术生成

requests的用法

request是python用于网络(http)请求的第三方库,也是爬虫获取网络数据的

重要工具

1.向目标地址(网络地址)发送请求

request.get(url,*,headers,proxies,timeout) - 以指定的方式给地址发送网络请求,返回值是服务器的响应对象

参数说明:

url :字符串;请求的网络地址,可能是目标的网络的地址,也可能是数据接口

headers:字典;请求头,用于伪装浏览器设置user-agent、完成自动登录设置cookie

proxies:字典;请求头,用于伪装浏览器设置user-agent、完成自动登录设置

cookie

timeout:数字;设置超时时间

url = 'https://search.51job.com/list/000000,000000,0000,00,9,99,数据分析,2,1.html?lang=c&postchannel=0000&workyear=99&cotype=99&degreefrom=99&jobterm=99&companysize=99&ord_field=0&dibiaoid=0&line=&welfare='
response = requests.get(url, headers=headers)


2.获取相应头

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值