最近公司要求我写一个抓取博客文章的程序,抓取每篇博客的标题和正文,而且最烦的还必须要抓取博客文章的评论数和阅读数。 就标题和正文可以用HtmlClient和HtmlParser 来一步步解析。可是评论数和阅读数基本上都是用JS做出来,想要获得必须要能解析页面JS。因此只能选择HtmlUnit了。
HmtlUnit是Apache JUnit 的一个扩展项目,它是一个无界面的用纯JAVA写的浏览器,可以用来测试页面的标签,模拟点击一个链接,测试提交form表单等等。目前最新版本是HtmlUnit 2.7 版,有兴趣的话可以去看看http://htmlunit.sourceforge.net/ ,它最大的好处就是可以解析JS,这也是我用它的最大的原因。目前正在看源代码,有兴趣的同学可以留言一起交流交流。