python爬虫——分页爬取京东商城商品信息(手机为例)

本文是作者初次尝试Python爬虫的实战记录,通过分析京东商城网页结构,抓取手机商品信息。过程中涉及网页结构分析、反爬虫策略以及JSON数据解析,需要一定的Web基础知识。并提供了相关视频教程链接辅助理解。
摘要由CSDN通过智能技术生成

1、最近刚开始学习python   写了个爬虫练习,感觉主要是得会用F12查询网站结构代码。还涉及到反爬虫,每个网站都不一样,拿到的解析出的json数据格式也不同。得有些Web知识的基础才行。

https://www.bilibili.com/video/av54287470/  视频讲解

2、上代码

import urllib.request
import time
# xpath  lxml第三方包   将html转化为树形结构
from lxml import etree
# re系统包  正则
import re

"""
爬取数据方式:                     1、通过网页源代码(数据绑定在html标签中)
根据目标网址绑定数据的方式决定      2、通过接口获取json(json绑定)

京东商品信息    获取目标url(开发者模式)    获取网页源代码抓取数据
                                            搜索页面、商品子页面{获取搜索页面的所有商品 class="gl-i-wrap",所有商品的子页面【二次爬取】}
                发送url获取响应数据   反爬    
                进行数据处理
"""
# 分页抓取手机商品信息
def jdPhone_spider(url,beginPage,endPage):
    for page in range(beginPage,endPage+1):
        #京东页码奇数递增处理  反爬
        pn = page*2 -1
        print("正
  • 6
    点赞
  • 33
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值