爬取chaoshi.tmall商品详情

爬取商品详情网址是:http://mdskip.taobao.com/core/changeLocation.htm?sellerUserTag4=35600986046915&sellerUserTag3=216243150893645856&sellerUserTag=35196962&offlineShop=false&notAllowOriginPrice=false&service3C=false&itemId=21289723927&isSecKill=false&tgTag=false&household=false&isUseInventoryCent


不论是使用火狐firebug,还是使用各大浏览器的“审查元素”功能,在“网络”中都找不到对该地址的请求。实在没办法,最后使用firefox的控制台找到了该地址,寻找方法是:先打开控制台,然后强制刷新网页,看控制台的请求网址,同时查看tmall网址页面上商品详情那个地方,因为是懒加载,所以刷新后在该地方没有加载之前,一直是“描述加载中”


这个时候可以不断地清空控制台(可以筛掉许多肯定不是的请求地址),等商品描述加载出来后,一次打开控制台的请求地址,看内容。


不知道tmall是怎么实现的懒加载。在商品详情页面有如下代码,红色的即为商品详情地址:


后面终于想到在“审查元素”的“网络”中为啥找不到对改地址的请求了,经过尝试可以确定。是因为缓存,在第一次访问该页时,会去请求这个商品详情地址,然后这个地址内容会被缓存,所以再次请求时,商品详情会读取缓存数据。即便是ctrl+f5强制刷新当前页面,也不会再去请求这个商品详情地址,只能清空缓存。

相应技术文档参考:

jQuery懒加载原理:http://www.jb51.net/article/26125.htm

使用火蜘蛛采集器Firespider采集天猫商品数据http://www.cnblogs.com/rexy/p/4077675.html

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值