对于京东图书名称、价格等多元素的爬取,并带有采集翻页的功能

结合老师的课件以及网上总结的资料,做一些简单的总结:

1.首先需要导入包  from lxml import html ,import requests,import json,然后利用xpath找到书价格的id(找的方式感觉有点凑的样子,多是参考老师给的课件的形式),通过xpath找到书名、价格等元素的信息,此处要仔尝试几次,看看能否达到迅速找到的要求。

2.然后要将需要采集的网页通过requests请求get到,然后用html中的html.fromstring()将page.content解析为tree,利用tree将xapth解析为输出结果。

3.将此问题分解为两大部分,第一是对下一页的采集,然后是对每一页的内容的解析,由于京东的图书价格是利用Ajax方式加载的,所以需要利用开发者模式,找出前边不变的量,然后将id加在后面

 

转载于:https://www.cnblogs.com/Eumendies/p/7841189.html

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值