python 爬虫学习笔记之知识储备(简易版)

python 爬虫学习笔记之知识储备

因为上学期笔者在学校里学习了python语言,加之过年期间的一系列机缘巧合,笔者将爬虫作为这学期的课外学习目标,计划一学期内将爬虫学完,可能更新不会很快,因为平时还会打打cf和atcoder的比赛。主要的学习资料是B站路飞学城IT

定义

通过编写程序,模拟浏览器上网,然后让其去互联网上抓取数据的过程。

简单分类

  • 通用爬虫

抓取系统重要组成部分。抓取的是一整张页面的内容/

  • 聚焦爬虫

建立在通用爬虫的基础上。抓取的是页面上特定的局部内容。

  • 增量式爬虫

检测网站中数据更新的情况。只会抓取网站中最新更新出的内容。

request 模块

python自带的关于网络请求的模块。

模拟访问浏览器的过程

也可看做写爬虫的编码流程

  1. 指定url
  2. 发起请求
  3. 获取相应数据
  4. 持久化存储
  • 3
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值