python动态爬取,孔夫子旧书网

python爬取孔夫子旧书网的店铺评论

python2.7.15

这次爬取的是动态网页,所谓动态网页就是动态网页是指网页文件里包含了程序代码,通过后台数据库与Web服务器的信息交互,由后台数据库提供实时数据更新和数据查询服务。它的数据不会直接出现在网页的源码里,它是通过js、xhr等文件动态加载的,比如一些网页里的商品信息,用户评论。

这次爬取的孔夫子旧书网的店铺评论就是存放在js文件里的,想要爬取它首先要找到网页对这个文件的请求,这个可以在浏览器里右键审查元素来找

一、查找对应文件

首先打开浏览器,孔夫子旧书网,书店区。右侧有很多排行榜,也就是书店列表,我们可以挑一个进行操作比如这个销量排行榜,点进去我们可以看到2000条书店信息。随便点一个书店进去,右侧书店信息里有书店的好评率等评价信息,点进去,就找到我们想要的评论列表啦。在这里插入图片描述

评论对应的js文件怎么找呢?右键审查元素,Network,刷新,这些文件就出来了。

  • 2
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值