html中searchbutton点击没有反应,点击按钮加载完整的HTML后,使用Selenium加载其他元素...

我想刮一页并收集所有链接。该页面显示30个条目并查看完整列表,点击全部加载按钮是必要的。点击按钮加载完整的HTML后,使用Selenium加载其他元素

我使用下面的代码:

from selenium import webdriver

from bs4 import BeautifulSoup

driver = webdriver.PhantomJS()

driver.get('http://www.christies.com/lotfinder/searchresults.aspx?&searchfrom=header&lid=1&entry=edgar%20degas&searchtype=p&action=paging&pg=all')

labtn = driver.find_element_by_css_selector('a.load-all')

labtn.click()

elem = driver.find_element_by_xpath("//*")

source_code = elem.get_attribute("outerHTML")

soup = BeautifulSoup(source_code, 'lxml')

url_list = []

for div in soup.find_all(class_ ='image-container'):

for childdiv in div.find_all('a'):

url_list.append(childdiv['href'])

print(url_list)

这里的HTML标记

我仍然得到原来的30个链接和初始密码。看来我没有正确使用硒,并想知道我做错了什么。

硒到目前为止工作。节点JS已安装,我设法做出截图并将其保存到文件中。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值