Scrapy入门-爬取books.toscrape.com

  1. 创建项目与爬虫
    在这里插入图片描述
  2. 查看网页源码并分析
  • 分析须爬取内容
  • 内容位于网页中的位置
  1. 封装Item
    根据分析需要爬取内容建立Item对象
    在这里插入图片描述
  2. 查看内容位于网页中的位置,并用scrapy shell测试是否能正常获取所需要的值
    在这里插入图片描述
    获取成功 LinkExtractor方法可以成功获取链接
    在这里插入图片描述
  3. 以此方法建立解析函数 prase
    在这里插入图片描述
  4. 根据第二、第三点步骤分析得出单一书本页面需爬取内容与页面位置
    如:
    书名
    在这里插入图片描述
    评价等级
    在这里插入图片描述
    再次进入shell中测试
    在这里插入图片描述
  5. 根据一切方法匹配到值
    在这里插入图片描述
    别忘记将Item yield出去
yield book
  1. 此时,一页所有书本链接与一本书中的获取值已实现
    需实现下一页跳转方法
    实现思路:获取下一页url(网页拼接urljoin()方法或者LinkExtractor)→ callback返回实现跳转
    在这里插入图片描述
  2. 建立主函数运行并输出结果
    在这里插入图片描述
    结果:(success)
    在这里插入图片描述
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值