Python爬虫-抓取数据到可视化全流程的实现(1)

‘Accept’: ‘text/html,/; q=0.01’,

‘hexin-v’: ‘A2C11EVPFXAhNKl0PUpM6xp8MWU2aUUO5k-YOdpwLngMrQpTgnkUwzZdaMMp’,

‘Referer’: ‘http://data.10jqka.com.cn/financial/yjyg/’,

‘Cookie’:‘对应填写’,

‘User-Agent’:‘对应填写’

}

url=“http://data.10jqka.com.cn/ajax/yjyg/date/2021-12-31/board/ALL/field/enddate/order/desc/page/{}/ajax/1/free/1/”

result = ‘’

for i in range(1,5):

result += requests.get(url.format(i), headers=headers).text

result

爬取成功，检查数据

2、获取序号、股票代码、等你所需要的信息

---

index = re.findall(‘(.*)’,result)

index

148条数据符合预期，继续查看股票代码（这里使用正则表达式查询，可以看这篇里边对正则表达式进行了讲解：正则表达式+常用示例_你隔壁的小王的博客-CSDN博客）

stock_code = re.findall(‘class=“stockCode”>(.*)’,result)

print(stock_code)

3、组成DataFrame

---

data = pd.DataFrame({

“stock_code”:stock_code,

“stock_name”:stock_name,

“performance”:performance,

“summary”:summary

}, index=index)

data

组合成功

4、处理数据

---

使用正则筛选出净利润和增长幅度

data[‘start_profit’] = data[‘summary’].str.extract(‘(-{0,1}\d{0,10}.{0,1}\d{0,10})万元’)

data[‘end_profit’] = data[‘summary’].str.extract(‘至(-{0,1}\d{0,10}.{0,1}\d{0,10})万元’)

data[“start_range”] = data[‘summary’].str.extract(‘(\d{0,5}.{0,1}\d{0,5})%’) + “%”

data[“end_range”] = data[‘summary’].str.extract(‘至(\d{0,5}.{0,1}\d{0,5})%’) + “%”

data.head()

一、Python所有方向的学习路线

Python所有方向路线就是把Python常用的技术点做整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。

二、学习软件

工欲善其事必先利其器。学习Python常用的开发软件都在这里了，给大家节省了很多时间。

三、入门学习视频

我们在看视频学习的时候，不能光动眼动脑不动手，比较科学的学习方法是在理解之后运用它们，这时候练手项目就很适合了。

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化学习资料的朋友，可以戳这里无偿获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！