2024年最全Python抓取4A级猎头公司数据(1)

第一步:获取网站源码

需要安装的库:pip install xlwt

第一步先导入urllib.request模块,记住python2跟3在模块上面使用是有区别的,这个模块就是如此。

如果我们想访问多个页面的话需要找寻网站的网址规律是怎么样的

http://www.risfond.com/case/fmcg/26700 ,http://www.risfond.com/case/fmcg/26701,

点击网址下一条就可以发现网址的规律,网址后面的数字是发生了改变的,

所以可以采用字符串格式化跟range函数,for in来进行使用,基础知识附带使用讲解下。

range函数可以生成一个整数序列,里面只有一个参数默认从0开始,2个参数是含头不含尾,示例如下:

在这里插入图片描述

字符串格式化,%s代表字符串,%d代表数字,当不知道用什么的情况下可以用%s代替,format是用{}.format()的方式做到字符串格式化的。

在这里插入图片描述

发送请求

for i in range(26700,26716):

url = ‘http://www.risfond.com/case/fmcg/{}’.format(i)

html = urllib.request.urlopen(url).read().decode(‘utf-8’)#urlopen打开网址 read 读取源代码

print(html)

第二步:从源码解析所需要的数据

这里用的是re正则表达式,可以根据一定的规则从源码中匹配出相对应的内容,打个比方说,我去水果店买西瓜,西瓜的特征是果绿色的外壳,红色的果肉,椭圆形状,都是根据这个特征去寻找的,在网站中间也是如此,获取的内容有着共同的标签比如div,而且都是在一样的html布局中,就可以写一个正则,用findall去从源码html中匹配出来。

page_list = re.findall(r’

. ?(.?)
',html)

第三步:数据存储到excel

根据内容,我觉得存储到excel表格里面会比较好,所以对每行也写了一定的注释,大家可以参考下!

newTable = ‘test2019.xls’#表格名称

wb = xlwt.Workbook(encoding=‘utf-8’) #创建excel文件 设置编码

ws = wb.add_sheet(‘rsfd’)#表名称

headData = [‘职位名称’,‘职位地点’,‘时间’,‘行业’,‘招聘时间’,‘人数’,‘顾问’]

for colnum in range(0,7):

ws.write(0,colnum,heData[colnum],xlwt.easyxf(‘font:bold on’))

(1)Python所有方向的学习路线(新版)

这是我花了几天的时间去把Python所有方向的技术点做的整理,形成各个领域的知识点汇总,它的用处就在于,你可以按照上面的知识点去找对应的学习资源,保证自己学得较为全面。

最近我才对这些路线做了一下新的更新,知识体系更全面了。

在这里插入图片描述

(2)Python学习视频

包含了Python入门、爬虫、数据分析和web开发的学习视频,总共100多个,虽然没有那么全面,但是对于入门来说是没问题的,学完这些之后,你可以按照我上面的学习路线去网上找其他的知识资源进行进阶。

在这里插入图片描述

(3)100多个练手项目

我们在看视频学习的时候,不能光动眼动脑不动手,比较科学的学习方法是在理解之后运用它们,这时候练手项目就很适合了,只是里面的项目比较多,水平也是参差不齐,大家可以挑自己能做的项目去练练。

在这里插入图片描述

网上学习资料一大堆,但如果学到的知识不成体系,遇到问题时只是浅尝辄止,不再深入研究,那么很难做到真正的技术提升。

需要这份系统化学习资料的朋友,可以戳这里无偿获取

一个人可以走的很快,但一群人才能走的更远!不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人,都欢迎加入我们的的圈子(技术交流、学习资源、职场吐槽、大厂内推、面试辅导),让我们一起学习成长!

  • 12
    点赞
  • 20
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值