爬虫:selenium解析动态网页

之前对于ajax动态网页还是采用的是重新加载网址的方式,但是在很多场景下还是无法解决,为解决此类问题,直接采用selenium库,这个库相比于beautifulsoup是直接模拟浏览器的操作。

selenium的部署分两步:

首先pip install selenium,

然后需要部署浏览器内核http://npm.taobao.org/mirrors/chromedriver/,在这个镜像网站找到合适的内核,然后下载后放入python的script的文件夹下

*script文件夹的作用就如同名字一样,相当于是一个脚本,有一些python库在pip install后可以直接在终端使用命令,得益于python具有CLI工具,而CLI工具就部署在script文件夹下,对于windows就是以.exe的格式保存,在linux中以bash以及类似脚本格式保存。

如图下载完内核后,直接放入script文件夹内。

 

chrome和phantomjs的区别在于chrome寄托于第三方界面软件(chrome浏览器)而phantomjs是无界面软件(在内存中直接运行)

http://npm.taobao.org/dist/phantomjs/可以安装phantomjs框架,然后在bin文件夹中找到exe文件复制到script文件夹中。

 

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值