爬虫实践---Selenium-抓取淘宝搜索商品信息

Selenium 是什么?一句话,自动化测试工具。它支持各种浏览器,包括 Chrome,Safari,Firefox 等主流界面式浏览器,如果你在这些浏览器里面安装一个 Selenium 的插件,那么便可以方便地实现Web界面的测试。

主要用法参考:Selenium用法

https://www.taobao.com 淘宝网首页,输入“键盘”,跳转页面,获取页面信息,扣取需要信息进行输出或保存。




显式等待
显式等待 使用ExpectedConditions类中自带方法, 可以进行显试等待的判断。 


显式等待可以自定义等待的条件,用于更加复杂的页面等待条件

等待的条件 WebDriver方法

页面元素是否在页面上可用和可被单击 elementToBeClickable(By locator)

页面元素处于被选中状态 elementToBeSelected(WebElement element)

页面元素在页面中存在 presenceOfElementLocated(By locator)

在页面元素中是否包含特定的文本 text_To_Be_Present_In_Element(By locator)

页面元素值 textToBePresentInElementValue(By locator, java.lang.String text)

标题 (title) titleContains(java.lang.String title)

参见:【Selenium专题】元素定位之CssSelector


等待搜索框相应,并提交搜索关键词:

input = wait.until(EC.presence_of_element_located((By.CSS_SELECTOR,'#q'))) 
# 等待搜索框加载完成  driver.findElement(By.cssSelector("#username"));只是 #id
#name = input("请输入搜索内容:")
input.send_keys("键盘")   # 输入框中输入


提交搜索按钮: 

sumbit=wait.until(EC.element_to_be_clickable((By.CSS_SELECTOR,'#J_TSearchForm > div.search-button > button'))) # 等待搜索按钮相应
sumbit.click() # 点击搜索按钮



copy selector 

#spulist-pager > div > div > div > div.total

寻找查找结果数量:

total=wait.until(EC.presence_of_element
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值