PhantomJS介绍
最近开发爬虫的时候,遇到.aspx后缀的网页需要去模拟登陆然后获取cookie,本来计划通过selenium进行登陆,但是效果很不好红色警告很多,似乎selenium对于JavaScript支持不是很好。在查过资料之后,发现了PhantomJS这一大杀器,基本满足爬虫很多需要,便决定使用PhantomJS进行开发模拟登陆。
以下是对于PhantomJS的介绍
(1)一个基于webkit内核的无头浏览器,即没有UI界面,即它就是一个浏览器,只是其内的点击、翻页等人为相关操作需要程序设计实现。
(2)提供javascript API接口,即通过编写js程序可以直接与webkit内核交互,在此之上可以结合java语言等,通过java调用js等相关操作,从而解决了以前c/c++才能比较好的基于webkit开发优质采集器的限制。
(3)提供windows、linux、mac等不同os的安装使用包,也就是说可以在不同平台上二次开发采集项目或是自动项目测试等工作。
PhantomJS介绍资料来源
PhantomJS进行模拟登陆
这次计划将使用Java+phantomjs进行开发,因为本人开发爬虫主要通过Java。
首先上JavaScript代码