Python爬虫入门教程23:A站视频的爬取,解密m3u8视频格式
Python爬虫入门教程25:绕过JS加密参数,实现批量下载抖某音无水印视频内容
Python爬虫入门教程27:爬取某电商平台数据内容并做数据可视化
Python爬虫入门教程28:爬取微博热搜榜并做动态数据展示
Python爬虫入门教程29:爬取某团烤肉店铺数据内容并做可视化展示
PS:如有需要 Python学习资料
以及 解答
的小伙伴可以加点击下方链接自行获取
-
Python 3.6
-
Pycharm
import csv
import requests
安装Python并添加到环境变量,pip安装需要的相关模块即可。
通过开发者工具, 抓包分析之后知道数据是从哪可以获取之后, 可以查看一下请求的url地址以及请求方式等
import csv
import requests
f = open(‘data.csv’, mode=‘a’, encoding=‘utf-8’, newline=‘’)
csv_writer = csv.DictWriter(f, fieldnames=[
‘标题’,
‘城市’,
‘公司名字’,
‘学历’,
‘经验’,
‘薪资’,
‘公司福利’,
‘详情页’,
])
csv_writer.writeheader()
url = ‘https://www.lagou.com/jobs/positionAjax.json?needAddtionalResult=false’
data = {
‘first’: ‘true’,
‘pn’: ‘1’,
‘kd’: ‘python’
}
headers = {
‘cookie’: ‘cookie’,
‘referer’: ‘https://www.lagou.com/jobs/list_python?labelWords=&fromSearch=true&suginput=’,
‘user-agent’: ‘Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/94.0.4606.71 Safari/537.36’
}
response = requests.post(url=url, data=data, headers=headers)
result = response.json()[‘content’][‘positionResult’][‘result’]
for index in result:
pprint.pprint(index)
title = index[‘positionName’] # 标题
city = index[‘city’] # 城市
area = index[‘district’] # 区域
city_area = city + ‘-’ + area
company_name = index[‘companyFullName’] # 公司名字
edu = index[‘education’] # 学历
money = index[‘salary’] # 薪资
exp = index[‘workYear’] # 经验
boon = index[‘positionAdvantage’] # 公司福利
href = f’https://www.lagou.com/jobs/{index[“positionId”]}.html’
job_info = index[‘positionDetail’].replace(‘
\n’, ‘’).replace(‘
’, ‘’)
dit = {
‘标题’: title,
‘城市’: city_area,
‘公司名字’: company_name,
自我介绍一下,小编13年上海交大毕业,曾经在小公司待过,也去过华为、OPPO等大厂,18年进入阿里一直到现在。
深知大多数Python工程师,想要提升技能,往往是自己摸索成长或者是报班学习,但对于培训机构动则几千的学费,着实压力不小。自己不成体系的自学效果低效又漫长,而且极易碰到天花板技术停滞不前!
因此收集整理了一份《2024年Python开发全套学习资料》,初衷也很简单,就是希望能够帮助到想自学提升又不知道该从何学起的朋友,同时减轻大家的负担。
既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上前端开发知识点,真正体系化!
由于文件比较大,这里只是将部分目录大纲截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且后续会持续更新
如果你觉得这些内容对你有帮助,可以扫码获取!!!(备注:Python)
9b566129f47b8a67243c1008edf79.png)
既有适合小白学习的零基础资料,也有适合3年以上经验的小伙伴深入学习提升的进阶课程,基本涵盖了95%以上前端开发知识点,真正体系化!
由于文件比较大,这里只是将部分目录大纲截图出来,每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频,并且后续会持续更新
如果你觉得这些内容对你有帮助,可以扫码获取!!!(备注:Python)