python爬虫(三)selenium爬取京东商品信息

本文主要介绍了使用selenium模拟浏览器操作爬取京东商品信息的过程。在实践中遇到了页面加载不完全和元素定位的问题,通过滚动加载和检查元素属性解决了这些问题。虽然对selenium有了初步理解,但对网页结构的掌握还需加强。
摘要由CSDN通过智能技术生成

目录

一、代码目的

二、准备工作

三、代码

四、过程中遇到的坑

1.加载不完全

2.元素位置的确定

五、实验结果和总结


一、代码目的

主要是为了学习selenium模拟浏览器操作的方法

二、准备工作

浏览器:chrome

驱动:chromedirver(和python.exe在同一目录)

用到的库:lxml、selenium

三、代码

import time
from selenium import webdriver
from selenium.webdriver.support import expected_conditions as EC
from selenium.webdriver.common.by import By
from selenium.webdriver.support.ui import WebDriverWait

from lxml import etree

browser = webdriver.Chrome()
browser.get("https://www.baidu.com")

wait = WebDriverWait(browser,50)
def search():
	browser.get('https://www.jd.com/')
	try:
		input = wait.until(
			EC.presence_of_all_elements_located((By.CSS_SELECTOR,"#key"))
		)#llist
		submit = wait.until(
			EC.element_to_be_clickable((By.CSS_SELECTOR,"#search > div > div.form > button"))
		)
		#input = browser.find_element_by_id('key')
		input[0].send_keys('python')
		submit.click()

		total = wait.until(
			EC.presence_of_all_elements_loc
  • 4
    点赞
  • 34
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 9
    评论
### 回答1: 好的,以下是使用PythonSelenium爬取京东的步骤: 1. 安装PythonSelenium库。 2. 下载Chrome浏览器和对应版本的ChromeDriver。 3. 编写Python代码,使用Selenium打开Chrome浏览器,并访问京东网站。 4. 使用Selenium模拟用户操作,比如输入搜索关键词、点击搜索按钮等。 5. 使用Selenium获取搜索结果页面的HTML代码,并解析出需要的信息,比如商品名称、价格、评价等。 6. 将获取到的信息保存到本地文件或数据库中。 7. 可以使用循环和分页技术,爬取多页的搜索结果。 以上就是使用PythonSelenium爬取京东的基本步骤,具体实现可以参考相关教程和代码示例。 ### 回答2: Python是一种非常强大的编程语言,而Selenium是一个流行的自动化测试工具。我们可以使用这两个工具来爬取京东。下面是如何使用PythonSelenium爬取京东的步骤: 首先,你需要安装PythonSelenium库。在安装完成后,可以找到关于Selenium的基本信息、功能和API文档。 接下来,打开京东网站,找到输入关键词的搜索框。使用Selenium的find_element_by_name方法,通过名称找到搜索框并输入关键词。 接着,点击搜索按钮。同样使用Selenium的find_element_by_css_selector方法,通过CSS选择器找到搜索按钮,并使用click()方法进行点击。 然后,你需要解析搜索结果页面中的信息。使用Selenium获取搜索结果页面中的所有商品块,通过块中的css选择器和Selenium的find_element_by_css_selector方法获取商品的标题、价格和图片等信息。 最后,将这些信息保存到您的本地文件中或者输出到控制台上。 需要注意的是,京东会经常更新他们的网站,可能会导致爬虫无法正常工作。因此,你需要在你的代码中添加错误和异常处理机制,以便在出现错误时能够更好的处理。 总而言之,使用PythonSelenium爬取京东是一种相对简单而且高效的方法。这个过程需要一定的编程知识,但一旦了解了这种方法,你可以更方便地获取你需要的数据。 ### 回答3: Python是一种常用的编程语言,可以完成各种领域的编程任务。而Selenium则是一种自动化测试工具,可以实现模拟用户操作,对网页进行自动化测试。 京东是一个电商网站,其中包含了众多商品信息,包括名称、价格、评论等。使用PythonSelenium库,可以实现对京东商品信息的自动化爬取。 实现步骤如下: 1.安装Selenium库 首先需要安装Selenium库,可以在命令行中使用以下命令进行安装: ``` pip install selenium``` 2.下载Chromedriver Selenium需要一个浏览器驱动程序,可以在Selenium官网中下载Chromedriver。 3.编写爬虫代码 导入selenium库并声明driver,使用get方法打开网页。使用find_element_by_id方法获取搜索框,输入关键字并使用submit方法进行搜索。 接着,使用find_elements_by_css_selector方法获取商品列表中的每个商品元素,遍历每个商品元素并获取商品信息。例如,获取商品名称可以使用find_element_by_css_selector方法获取名称元素,并使用text属性获取文本内容。 将获取的商品信息存储到一个列表中。如果搜索结果有多页,可以通过判断下一页按钮是否可点击来进行翻页操作。 最后,将结果写入文件或数据库中。 4.反爬虫处理 对于一些反爬虫措施,例如验证码和IP封锁,我们需要使用一些反反爬虫技术来绕过限制。 例如,使用IP代理来实现IP切换,或使用验证码识别算法来自动化识别验证码。 在使用爬虫时,需要注意遵守相关法律法规和网站规定,不要进行非法采集和滥用数据。
评论 9
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

阿德罗斯

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值