爬虫剑谱第十页（关于拼多多商品信息的爬取＜修改版＞）

最新推荐文章于 2024-08-14 11:38:01 发布

一线摸鱼人员

最新推荐文章于 2024-08-14 11:38:01 发布

阅读量2.3k

点赞数

分类专栏：爬虫编程问题 Python小项目文章标签：爬虫 python 前端

本文链接：https://blog.csdn.net/weixin_53328988/article/details/121701749

版权

该博客针对之前爬取拼多多商品信息的代码进行了修正，但由于限制，只能获取到首页的商品图片等信息，无法进入详情页。使用了selenium库进行爬虫操作，期待能有解决方案。

摘要由CSDN通过智能技术生成

关于此前发布了一篇关于爬取拼多多商品信息的博客：爬虫剑谱第七页（输入关键词爬取拼多多商品信息并进行保存）_独一无二的李狗蛋儿的博客-CSDN博客出现了问题，运行结束后无法返回数据，up主在这里重新进行了修正，但让然无法进入商品详情页，只能爬取首页的商品图片等信息，如果有解决方法的朋友可以私信或进行评论。

修正后代码：

需要用到selenium库

from selenium import webdriver
from lxml import etree
import time
#实例化一个浏览器对象（传入浏览器的驱动程序）
bro = webdriver.Edge(executable_path='./msedgedriver.exe')
#浏览器发起一个指定url对应请求
bro.get("https://youhui.pinduoduo.com/")
time.sleep(2)
# bro.get("https://youhui.pinduoduo.com/search/landing?catId=1")
#获取浏览器当前页面的源码数据
page_text = bro.page_source
#解析具体数据
tree= etree.HTML(page_text)
a_list = tree.xpath('//*[@id="__next"]/div/div[2]/div/div[2]/div/div[2]/a')
for a_ in a_list: