Python--爬虫之selenium

本文详细介绍了Selenium的基本使用,包括PhantomJS和Chromedriver的介绍、安装,以及Selenium如何控制浏览器、定位元素、处理cookie、处理页面等待。还提供了实战示例,如爬取斗鱼直播平台房间信息和模拟登录QQ邮箱,探讨了Selenium的优缺点,并给出了网易云音乐分类播放列表的爬取思路。
摘要由CSDN通过智能技术生成

selenium的使用

目标
了解selenium和phantomjs以及chromedriver是什么以及如何安装
掌握selenium的控制浏览器的方法
掌握selenium获取元素中数据的方法

1. 什么是selenium

Selenium是一个Web的自动化测试工具,最初是为网站自动化测试而开发的,Selenium 可以直接运行在浏览器上,它支持所有主流的浏览器(包括PhantomJS这些无界面的浏览器),可以接收指令,让浏览器自动加载页面,获取需要的数据,甚至页面截屏

2. PhantomJS的介绍

PhantomJS 是一个基于Webkit的“无界面”(headless)浏览器,它会把网站加载到内存并执行页面上的 JavaScript

下载地址:http://phantomjs.org/download.html

3. Chromedriver的介绍

Chromedriver 也是一个能够被selenium驱动的浏览器,但是和PhantomJS的区别在于它是有界面的

下载地址:https://npm.taobao.org/mirrors/chromedriver

4. driver的安装

最简单的安装方式是:解压后把bin目录下的可执行文件移动到环境变量下,比如/usr/bin 或者是/usr/local/bin下面

注意:Chromedriver和电脑上的chrome版本有对应关系,建议使用最新的Chromedriver版本并且更新chrome浏览器到最新版

5. selenium的入门使用

知识点:

掌握如何发送请求,加载网页
掌握如何进行简单的元素定位
掌握如何从获取浏览器中的数据
加载网页: selenium通过控制浏览器,所以对应的获取的数据都是elements中的内容

  from selenium import webdriver 
  driver = webdriver.PhantomJS(“c:…/pantomjs.exe”)
  driver.get("http://www.baidu.com/")
  driver.save_screenshot("长城.png")
# 定位和操作:
  driver.find_element_by_id(“kw”).send_keys(“长城”)
  driver.find_ele
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值