用Selenium+Chromedriver来爬取Ajax异步请求数据

用Selenium+Chromedriver来爬取Ajax异步请求数据

• Selenium是一个Web的自动化测试工具，最初是为网站自动化测试而开发的，类型像我们玩游戏用的按键精灵，可以按指定的命令自动操作，不同是Selenium 可以直接运行在浏览器上，它支持所有主流的浏览器（包括PhantomJS这些无界面的浏览器）。

• Selenium 可以根据我们的指令，让浏览器自动加载页面，获取需要的数据，甚至页面截屏，或者判断网站上某些动作是否发生。

• Selenium 自己不带浏览器，不支持浏览器的功能，它需要与第三方浏览器结合在一起才能使用。但是我们有时候需要让它内嵌在代码中运行，所以我们可以用一个叫 PhantomJS 的工具代替真实的浏览器。

• 可以从 PyPI 网站下载 Selenium库https://pypi.python.org/simple/selenium ，也可以用 第三方管理器 pip用命令安装：pip install selenium

• Selenium 官方参考文档：http://selenium-python.readthedocs.io/index.html

Chromedriver

• 点击下载chrome的webdriver： http://chromedriver.storage.googleapis.com/index.html，目前只有32位的。

朋友让我帮爬一个数据，发现网页数据竟然是异步加载，想到好久没用的Selenium，正好用一下 ，直接上代码

import