迅速入门爬虫数据清洗与可视化

数据爬取与分析1. 基础知识1.1 数据分析的基础知识数据分析的一般流程:明确目标-》采集数据-》数据清洗与分析-》绘制图表并且可视化-》得出结论1.2 具有python特色的程序1.3 字符串切片1 循环打印嵌套列表:movies=[“the holy”,1975,“terry jones”,91,[“graham”,[“michael”,“john”,“gilliam”,“idle”,“haha”]]],实现以下形式的输出:The holy19752、字典值操作有如下值集合
摘要由CSDN通过智能技术生成

数据爬取与分析

1. 基础知识

1.1 数据分析的基础知识

数据分析的一般流程:

明确目标-》采集数据-》数据清洗与分析-》绘制图表并且可视化-》得出结论

1.2 具有python特色的程序

image-20211019173331490

1.3 字符串切片

1 循环打印嵌套列表:movies=[“the holy”,1975,“terry jones”,91,[“graham”,
[“michael”,“john”,“gilliam”,“idle”,“haha”]]],实现以下形式的输出:

The holy

1975

img

2、字典值操作

有如下值集合[11,22,33,44,55,66,77,88,99,90],将所有大于66的值保存至字典的第一个key中,将小于66的值保存至第二个key的值中。即:{‘k1’:大于66的所有值,‘k2’:小于66的所有值}

img

2. 数据采集-爬虫的设计与实现

2.1 两条技术路线:

  1. 爬虫框架:scrapy 、selenium

  2. request库,urlib原生爬虫

2.2 爬虫概念:

  1. 网络爬虫

    网络爬虫是一种按照一定规则,自动抓取互联信息的程序或者脚本。

    由于互联网数据的多样性,资源的有限性,现在根据用户需求定向抓取相关网页并分析,已经成为当今主流爬取策略

  2. 爬虫的本质

    模拟浏览器打开网页,获取网页中我们想要的部分数据

  3. 爬虫工作流程

    • 观察页面特征:使用Ctrl+u查看网页源码,选中某元素,进行审查
    • 请求目标网页并获得相应
    • 定义信息提取规则,使用re(正则)第三方网页解析器,beautiful soup xpath bs4
    • 提取网页数据并保存
  4. 数据通常需要通过解析,解析方式:

    定义信息提取规则,使用re(正则)第三方网页解析器,beautiful soup xpath bs4

2.4 Scrapy 爬虫

2.4.1 Scrapy 爬虫的主要部件以及作用

[外链图片转存失败,源站可能有防盗链机制,建议将图片保存下来直接上传(img-pHCwfals-1634735959385)(C:/Users/Lenovo/AppData/Roaming/Typora/typora-user-images/image-20211019203520100.png)]

  1. Scrapy Engine(引擎): 负责Spider、ItemPipeline、Downloader、Scheduler中间的通讯,信号、数据传递等。
  2. Scheduler(调度器): 它负责接受引擎发送过来的Request请求,并按照一定的方式进行整理排列,入队,当引擎需要时,交还给引擎。
  3. Downloader(下载器):负责下载Scrapy Engine(引擎)发送的所有Requests请求,并将其获取到的Responses交还给Scrapy Engine(引擎),由引擎交给Spider来处理
  4. Spider(爬虫):它负责处理所有Responses,从中分析提取数据,获取Item字段需要的数据,并将需要跟进的URL提交给引擎,再次进入Scheduler(调度器)
  • 8
    点赞
  • 72
    收藏
    觉得还不错? 一键收藏
  • 6
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 6
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值