前面我们又介绍过简单网页和复杂的异步加载网页爬取过程,其实都是通过请求URL网址来获取信息的,但是现在很多网站都需要登录后才能得到信息,这时改如何处理呢?
今天我们来介绍通过观查表单源代码和逆向工程来推导出表单信息,来填写表单以获取网页信息,同时通过提交Cookie信息来模拟登录网站。
1、表单交互
import requestsparams={ ‘key1’:’value1’, ‘key2’:’value2’, ‘key3’:’value3’}html=requests.post(url,data=params)print(html.text)
由于现在大多数网站都有多种登录方式,通过短信或者微信登录等,相对通过直接调用表单进行交互已经比较麻烦,这里不做详细介绍,主要表单交互可以通过登录后来找到对应的网页,见下文。
2、逆向工程如何构建表单
对于登录后使用了异动加载的网页,可以通过逆向工程构架你表单来找到不同的网页信息,下面我们先看一下如何构建表单。
(1)登录拉勾网,打开Chrome浏览器,选择Netwoek
(2)搜索关键字python得到post的表单信息见下图一和下图二
图一
图二
3、Cookie模拟登录
有时候表单字段可能通过加密或者其它形式的包装进行构建,这样就比较困难和麻烦,因此,这时候就有必要选择通过提交Cookie信息进行模拟登录会方便很多。
什么是Cookie?
Cookie是指某些网站为了辨别用户身份、进行session跟踪而存储在用户本地终端上的数据。一般互联网和电商都是通过跟踪Cookie来作为识别用户的唯一标识的。
可见Cookie是带有用户信息的,因此才可以通过Cookie来模拟登陆网站。
继续通过拉勾网如下图可以看到cookie如下:
通过代码:
import requestsurl='https://www.lagou.com'headers={ 'cookie': 'xxx‘}html=requests.get(url,headers=headers)print(html.text)
得到登陆后的网页源码内容:
4、案例实践:爬取拉勾网招聘信息
拉勾网结合了异步加载技术和提交表单,让我们来分析一下此网站。
分析思路:
(1)登陆打开拉勾网站,页面如下,搜索关键字:大数据
(2)通过观察,网页元素不在网页源代码中,说明使用了异步加载技术。
(3)刷新页面,查看newwork选项卡,选中XHR,可以看到异步加载(AJAX)和对应的Response中返回的json信息,证明可以从这里拿到数据。
(4)通过翻页,可以找到表单数据,同时通过翻页,pn会不断变化,上述表单交互已经介绍,这里不再赘述。
(5)在netwoek->Preview中,可以看到每页信息数,同时信息总数。
(6)由于通过单一的cookie会被限制,所以补充了一个动态的cookie进行抓取数据,实验后可行,大家可以参考
def get_cookie(): # 原始网页的URL,即url_start url = 'https://www.lagou.com/jobs/list_%E6%95%B0%E6%8D%AE%E5%88%86%E6%9E%90?labelWords=&fromSearch=true&suginput=' s = requests.Session() s.get(url, headers=headers, timeout=3) # 请求首页获取cookies cookie = s.cookies # 为此次获取的cookies return cookie
详细代码如下:
import requestsimport jsonimport timeimport pandas as pd#import csvheaders = { 'origin': 'https://www.lagou.com', 'accept': 'xxxx', 'user-agent': 'xxxx', 'referer': 'xxxx'}# 获取cookies值def get_cookie(): # 原始网页的URL,即url_start url = 'https://www.lagou.com/jobs/list_%E6%95%B0%E6%8D%AE%E5%88%86%E6%9E%90?labelWords=&fromSearch=true&suginput=' s = requests.Session() s.get(url, headers=headers, timeout=3) # 请求首页获取cookies cookie = s.cookies # 为此次获取的cookies return cookie# 定义获取页数的函数def get_page(url, params): html = requests.post(url, data=params, headers=headers, cookies=get_cookie(), timeout=5) # 将网页的Html文件加载为json文件 json_data = json.loads(html.text) # 解析json文件,后跟中括号为解析的路径 total_Count = json_data['content']['positionResult']['totalCount'] page_number = int(total_Count/15) if int(total_Count/15) < 30 else 30 # 调用get_info函数,传入url和页数 get_info(url, page_number)# 定义获取招聘信息函数def get_info(url, page): for pn in range(1, page+1): # post请求参数 params = { "first": "true", "pn": str(pn), "kd": "大数据" } # 获取信息 并捕获异常 try: html = requests.post(url, data=params, headers=headers, cookies=get_cookie(), timeout=5) #print(url, html.status_code) # 将网页的Html文件加载为json文件 json_data = json.loads(html.text) # 解析json文件,后跟中括号为解析的路径 results = json_data['content']['positionResult']['result'] df = pd.DataFrame(results) #print(df.iloc[:,0:6]) if pn == 1: total_df = df else: total_df = pd.concat([total_df,df],axis=0) # 睡眠2秒 time.sleep(2) except requests.exceptions.ConnectionError: print("requests.exceptions.ConnectionError") pass #total_df.to_csv('招聘信息.csv', sep = ',', header = True, index = False) total_df.to_excel('大数据.xls',header=True, index=False)# 原始网页的URL#请求JSON数据的URLurl = "https://www.lagou.com/jobs/positionAjax.json?needAddtionalResult=false"params = { "first": "true", "pn": 1, "kd": "大数据"}get_page(url,params)
以上就是拉勾网数据抓取,一般最多只能抓取到不到500条数据,如果需要抓取更多还需深入研究。
--每天一小步、未来一大步!