爬取京东商品信息出现登陆页面的解决

错误信息

在这里插入图片描述

原因:京东一般都有反爬

代码

import requests
url = "https://item.jd.com/2967929.html"
try:
    kv = {
        "User-Agent": "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/80.0.3987.163 Safari/537.36",
        "cookie": "8ipiu591lktf4so07w5be3rp730lxbs6" #cookie信息每个人都不同,需登录到京东网站,通过浏览器查看cookie信息
    }
    r = requests.get(url, headers = kv) 
    r.raise_for_status()
    r.encoding = r.apparent_encoding
    print(r.text[:1000])
except:
    print("爬取失败")

注意事项

Cookie信息每个人是不同的,需要登陆到京东网站,通过电脑的浏览器查看登陆的cookie信息

以下提供Mac的Safari浏览器下查看京东登陆Cookie信息(主要说明选取哪一部分)

Safari浏览器查看cookie信息的方法:查看方法
选择红色部分作为代码中cookie的信息 只需要选中拷贝,然后删除多余的就行
在这里插入图片描述

结果展示(基于Anaconda)

在这里插入图片描述

Python通过一些常用的库如requests、BeautifulSoup或Scrapy等工具可以用于爬取京东商品信息。以下是一个简单的步骤概述: 1. **安装依赖**:首先需要安装`requests`库来发送HTTP请求,以及如`lxml`或`beautifulsoup4`(这两个库通常一起使用)来解析HTML。 ```bash pip install requests lxml ``` 2. **发送GET请求**:使用`requests.get()`函数获取网页内容。例如,获取商品列表页面的URL。 ```python url = 'https://item.jd.com/your_item_id.html' response = requests.get(url) ``` 3. **解析HTML**:使用BeautifulSoup解析响应的HTML内容,找到包含商品信息的部分,比如商品标题、价格、图片链接等。 ```python soup = BeautifulSoup(response.text, 'lxml') title = soup.find('div', {'class': 'product-title'}).text price = soup.find('span', {'class': 'price'}).text pic_url = soup.find('img', {'class': 'J_diamond'})['src'] ``` 4. **处理数据**:将抓取到的信息存储在字典、列表或其他合适的数据结构中,并可能需要进一步处理,如清洗数据、解析日期等。 5. **循环提取**:如果商品信息分布在分页中,可以使用`while True`或`for page in range(start_page, end_page)`来遍历所有页面。 6. **保存结果**:最后,你可以选择将数据保存到文件(CSV、JSON、数据库等),或者直接输出到控制台。 请注意,实际操作时需要遵守京东的robots.txt协议,尊重网站的爬虫策略,并考虑到反爬机制。此外,频繁的爬取可能会导致IP被封禁,因此最好设置延时(sleep)并使用代理IP池。
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值