之前对于ajax动态网页还是采用的是重新加载网址的方式,但是在很多场景下还是无法解决,为解决此类问题,直接采用selenium库,这个库相比于beautifulsoup是直接模拟浏览器的操作。
selenium的部署分两步:
首先pip install selenium,
然后需要部署浏览器内核http://npm.taobao.org/mirrors/chromedriver/,在这个镜像网站找到合适的内核,然后下载后放入python的script的文件夹下
*script文件夹的作用就如同名字一样,相当于是一个脚本,有一些python库在pip install后可以直接在终端使用命令,得益于python具有CLI工具,而CLI工具就部署在script文件夹下,对于windows就是以.exe的格式保存,在linux中以bash以及类似脚本格式保存。
如图下载完内核后,直接放入script文件夹内。
chrome和phantomjs的区别在于chrome寄托于第三方界面软件(chrome浏览器)而phantomjs是无界面软件(在内存中直接运行)
http://npm.taobao.org/dist/phantomjs/可以安装phantomjs框架,然后在bin文件夹中找到exe文件复制到script文件夹中。