python爬虫实战-爬取岗位招聘信息并保存至本地（方法、jsonpath）

最新推荐文章于 2024-08-16 16:08:24 发布

hoochon

最新推荐文章于 2024-08-16 16:08:24 发布

阅读量1.2k

点赞数 2

分类专栏： python实战文章标签： python 爬虫 jsonpath

本文链接：https://blog.csdn.net/hoochon/article/details/87894318

版权

本文介绍了使用Python爬虫技术抓取招聘网站的岗位信息，并详细讲解了如何利用jsonpath解析和存储数据到本地的过程。

摘要由CSDN通过智能技术生成

python爬虫实战-爬取招聘网岗位信息并保存至本地（方法、jsonpath）

import urllib.request
import urllib.parse
import json
import jsonpath
import time

# json接口：
# 第一页https://fe-api.zhaopin.com/c/i/sou?kt=3&pageSize=90&cityId=西安&kw=python
# 第二页https://fe-api.zhaopin.com/c/i/sou?kt=3&start=90&pageSize=90&cityId=西安&kw=python
# 第三页https://fe-api.zhaopin.com/c/i/sou?kt=3&start=180&pageSize=90&cityId=西安&kw=python

class ZhiLianSpider(object):
	"""docstring for ZhiLianSpider"""
	url='https://fe-api.zhaopin.com/c/i/sou?kt=3&'
	def __init__(self, cityId,kw,start_page,end_page):
		super(ZhiLianSpider, self).__init__()
		self.cityId = cityId
		self.kw = kw
		self.start_page = start_page
		self.end_page = end_page
		self.jobs_list=[]

	def run(self):
		for page in range(self.start_page,self.end_page+1):
			print('正在爬取第%s页工作信息......' % page)
			url_string=self