python爬虫selenium页面滑动案例,作为一个Python程序员你还不会JetPack

本文介绍了如何使用Python的Selenium库进行页面滑动操作,结合具体的翻页函数和保存页面源码的方法,实现对网页的自动化翻页和数据抓取。文中详细解释了页面滑动的JavaScript实现原理,并提供了完整的代码示例。此外,还分享了作者多年的编程经验,强调学习资源的重要性,并提供了一系列Python学习资源作为福利。
摘要由CSDN通过智能技术生成

定义翻页函数

def up_page(self):

time.sleep(1)

点击下一页

self.driver.find_element(By.XPATH,‘//*[text()=“下一页”]’).click()

定义保存页面源码函数

def save_page(self, n=1):

time.sleep(2)

保存数据

with open(f’第{n}页.html’, ‘w’, encoding=‘utf-8’) as f:

f.write(self.driver.page_source)

定义总的执行函数

def run(self):

try:

self.save_page() # 第一页

for n in range(2, 6): # 第二三四五页

self.scroll()

self.up_page()

self.save_page(n)

except Exception as e:

print(e)

finally:

self.clear_driver()

if name == ‘main’:

lianjia = LianJia()

lianjia.run()

获取页面源码则对浏览器驱动对象self.driver调用page_source属性。

执行JavaScript代码使用execute_script() 方法。

其中还涉及一点关于翻页的简单的JavaScript代码语句ÿ

  • 17
    点赞
  • 14
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
PythonSelenium库是一个强大的工具,可以用于自动化网页操作和数据采集。下面是一个 PythonSelenium爬虫案例案例1:京东页面采集 首先,您需要安装Selenium库[2.1]。然后,您可以使用以下步骤编写Python脚本来实现京东页面的数据采集: 1. 导入必要的模块: from selenium import webdriver 2. 创建一个浏览器驱动实例,并打开京东的首页: driver = webdriver.Chrome() driver.get("https://www.jd.com/") 3. 定位并点击搜索框,并输入关键词: search_box = driver.find_element_by_id("key") search_box.send_keys("手机") search_box.submit() 4. 定位商品列表,并获取列表中的商品信息: product_list = driver.find_elements_by_class_name("gl-item") for product in product_list: # 获取商品名称 name = product.find_element_by_class_name("p-name").text # 获取商品价格 price = product.find_element_by_class_name("p-price").text # 打印商品信息 print("商品名称:", name) print("商品价格:", price) 5. 关闭浏览器: driver.quit() 这个案例演示了如何使用Selenium库来打开京东首页,搜索关键词并获取商品列表的名称和价格[2.2]。通过定位元素,您可以轻松地获取您所需的数据。 请注意,由于Selenium库是一个自动化工具,它的效率较低,因此适用于小规模的数据采集任务。 希望这个案例能为您提供一个基本的了解,您可以根据自己的需求进行相应的修改和扩展。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值