目录
昨天-2023年12月24日抽空爬取了一下BOSS直聘上base北京的数据分析岗位的相关数据,本文简单分析拿给大家做参考,该说不说、在现在的大环境下数据分析薪资还是高的呀。
在PC端上打开BOSS直聘网页搜索数据分析,只会显示10页岗位(每页30条),所以我按照工作经验要求对应届生、 1年以内、 1-3年、 3-5年、 5-10年、 10年以上分别爬了10页数据,总共1800条。
一、数据介绍及预处理
1、数据介绍
数据包括职位名称、base地点、薪资水平、经验及学历要求、招聘公司、行业、融资阶段、员工规模等 文末获取数据集
2、数据预处理
(1)数据筛选
由于BOSS直聘上搜索数据分析岗位的结果中,包含一些数据开发、需求分析等其他岗位,因此按照岗位名称是否包含数据分析/商业分析来做筛选,剩余1039条
(2)数据分割提取
在job_area中包括市、行政区、乡镇三级地址,tag_list中包含经验要求、学历要求,company_tag_list中包含行业、融资阶段、员工规模,所以结合split方法、正则表达式分别进行数据提取。
import re
def get_industry(string):
try:
result=re.findall('(.*?)[0-9].*[0-9].*',string)[0]
l=['已上市','不需要融资','未融资','天使轮','A轮','B轮','C轮','D轮及以上']
for s in l:
result=result.replace(s,'')
return result
except:
return None
def get_scale(string):
try:
result=re.findall('([0-9].*[0-9].*)',string)[0]
l=['已上市','不需要融资','未融资','天使轮','A轮','B轮','C轮','D轮及以上']
for s in l:
if s in result:
result=result.split(s)[1]
return result
except:
return None
def dat_pred(data):
df=data[data.job_name.str.contains('数据分析')|data.job_name.str.contains('商业分析')].reset_index(drop=True).copy()
df['district']=df.job_area.str.split('·').str[1]
df['town']=df.job_area.str.split('·').str[2]
df['experience']=df.tag_list.str.split('\\n').str[0]
df['education']=df.tag_list.str.split('\\n').str[1]
df['industry']=df.company_tag_list.apply(get_industry)
# df['scale']=df.company_tag_list.apply(lambda x:re.findall('([0-9].*[0-9].*)',x)).str[0]
df['scale']=df.company_tag_list.apply(get_scale)
df['base_salary']=df.salary.str.split('-').str[0]
df.base_salary=df.base_salary.astype(float)
return df
df_all_copy=df_all.pipe(dat_pred)
df_all_copy
(3)薪资数据处理
考虑到薪资待遇下限更贴近实际,因此提取左边界作为base_salary用于分析,此外发现大部分salary单位是k、但是还有部分为元,所以进行标准化处理、统一为k。
二、数据分析
1、缺失值统计
由于BOSS直聘上的数据格式规范,所以爬取的数据质量尚可,整体缺失率低
2、岗位数量、薪资水平统计
对地域、学历、经验、员工规模等进行分组统计岗位数量、薪资水平
(1)行政区分组统计
不出所料,朝阳和海淀的数据分析岗位数量远超其他地区,在这个数据集中直接按行政区分组统计base_salary平均水平最高的反而是顺义,而顺义的数据量少、所以结果仅供参考
(2)经验要求分组统计
从数据结果来看,企业偏爱于有一定经验的求职者;而随着工作经验增加,数据分析岗位的薪资待遇增长也很稳定,3年基本就能拿到20k+了
(3)学历要求分组统计
从数据结果来看,企业对学历还是有一定要求的,大多本科起步;随着学历提高,薪资差异虽然没有那么大、但也还是明显的单调关系
3、企业维度岗位数量
4、top薪资岗位
分别对不同经验要求的数据分析岗位排序的到最高的top10薪资,可以看到在不同经验要求下、最高的一批薪资都是很客观的,所以加油吧朋友们,钱途可期啊
三、划重点
少走10年弯路
关注威信公众号 Python风控模型与数据分析,回复 BOSS直聘数据分析 获取本篇数据及代码
还有更多理论、代码分享等你来拿