爬虫处理“显示更多”按钮

使用关键词“爬虫处理‘显示更多’按钮”搜索时,网上出现最多的方法就是“使用selenium点击‘显示更多’按钮”,于是便按照网上的一些教程开始编写。

主要参考:

https://www.cnpython.com/qa/731745Python使用selenium模拟点击(一) - 混在园子里的底层码农 - 博客园

之前参考学长代码的时候接触过selenium,所以关于一些导入selenium包,以及使用chromedriver我这边基本已经实现了,可以直接编写代码了,关于准备工作可以参考网上的其他一些教程。

首先是加载驱动,然后得到网页的源码:

chromedriver_path = 'D:/A_study/chromedriver.exe'  # 将executable_path改成了绝对路径
driver = webdriver.Chrome(executable_path=chromedriver_path)
driver.get(url)
soup = BeautifulSoup(driver.page_source

然后根据得到的源码找到需要点击的按钮:

button = driver.find_element_by_css_selector("footer div.button a")
button.click()

我这里是根据css选择器进行定位的,当然也可以根据id等其他属性进行定位,具体做法可以参考网上的其他一些教程。

这里需要注意的一点就是“find_element_by_ ”,这里如果使用的是“find_elements_by_” 会得到一个列表,如果直接根据得到的结果进行.click(),这时会报“'list' object has no attribute 'click'”的错误。此错误的解决方法参考教程:'list' object has no attribute 'click'问题_hyb648115428的博客-CSDN博客

以上就可以实现点击事件。

  • 1
    点赞
  • 13
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
回答: 在Python爬虫中,如果需要点击按钮,可以使用Selenium库来模拟点击操作。首先,根据需要点击的按钮的类名或其他属性,使用`find_element_by_class_name`方法找到该按钮元素。然后,使用`click()`方法来模拟点击操作。例如,可以使用以下代码来点击一个按钮: ``` result = driver.find_element_by_class_name('需要点击的类名') result.click() ``` 接下来,可以对展开的网页进行爬取。可以使用`driver.page_source`方法获取网页的源代码,然后使用BeautifulSoup库对源代码进行解析。例如,可以使用以下代码来解析网页: ``` selenium_page = driver.page_source driver.quit() soup = BeautifulSoup(selenium_page, 'html.parser') ``` 然后,可以使用`find`或`find_all`方法来找到需要的元素。例如,可以使用以下代码来找到单个元素或多个元素: ``` # 单个元素 one = soup.find('div', {'class': '布拉布拉类名'}) # 多个元素 many = soup.find_all('div', {'class': '咕噜咕噜类名'}) ``` 最后,可以根据需要进一步处理和提取数据。例如,可以使用`get_text()`方法来获取元素的文本内容。 #### 引用[.reference_title] - *1* [Python爬虫——小白笔记(一)](https://blog.csdn.net/m0_64139004/article/details/127202350)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insert_down28v1,239^v3^insert_chatgpt"}} ] [.reference_item] - *2* *3* [python爬虫+selenium模拟点击+网页内容需要点击打开](https://blog.csdn.net/weixin_41897122/article/details/104759135)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^insert_down28v1,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值