网页信息抓取进阶 支持Js生成数据 Jsoup的不足之处

title : “澳洲骆驼爱喝冰镇啤酒解暑”

} ];

window.onload = function() {

var infos = document.getElementById(“infos”);

for( var i = 0 ; i < datas.length ; i++)

{

var a = document.createElement(“a”);

a.href = datas[i].href ;

a.innerText = datas[i].title;

infos.appendChild(a);

infos.appendChild(document.createElement(“br”))

}

}

Hello Main HttpUnit!

style=“width: 60%; border: 1px solid green; border-radius: 10px; margin: 0 auto;”>

页面上观察是这样显示的：

我们审查元素：

如果你看到这样的页面，你会觉得拿Jsoup来抓取，简直就是呵呵，小菜一叠，于是我们写了这样的代码：

@Test

public void testUserJsoup() {

try {

Document doc = Jsoup.connect(

“http://localhost:8080/strurts2fileupload/main.html”)

.timeout(5000).get();

Elements links = doc.body().getElementsByTag(“a”);

for (Element link : links) {

System.out.println(link.text() + " " + link.attr(“href”));

}

} catch (IOException e) {

e.printStackTrace();

}

}

你会觉得就这几行代码，轻轻松松搞定，快快乐乐下班。于是运行发现，其实什么的抓取不到。

于是我们再回到页面，打开页面源代码，也就是上面的HTML代码，你恍然大悟，我靠，body里面根本没有数据，难怪抓不到。这就是Jsoup的不足，如果Jsoup去抓取的页面的数据，全都是页面加载完成后，ajax获取形成的，是抓取不到的。

下面给大家推荐另一个开源项目：HttpUnit，看名字是用于测试的，但是用来抓取数据也不错

我们开始编写类似Jsoup的代码：

@Test

public void testUserHttpUnit() throws FailingHttpStatusCodeException,

MalformedURLException, IOException {

/** HtmlUnit请求web页面 */

WebClient wc = new WebClient(BrowserVersion.CHROME);

wc.getOptions().setUseInsecureSSL(true);

wc.getOptions().setJavaScriptEnabled(true); // 启用JS解释器，默认为true

wc.getOptions().setCssEnabled(false); // 禁用css支持

wc.getOptions().setThrowExceptionOnScriptError(false); // js运行错误时，是否抛出异常

wc.getOptions().setTimeout(100000); // 设置连接超时时间 ，这里是10S。如果为0，则无限期等待

wc.getOptions().setDoNotTrackEnabled(false);

HtmlPage page = wc

.getPage(“http://localhost:8080/strurts2fileupload/main.html”);

DomNodeList links = page.getElementsByTagName(“a”);

for (DomElement link : links) {

最后的最后

对于程序员来说，要学习的知识内容、技术有太多太多，要想不被环境淘汰就只有不断提升自己，从来都是我们去适应环境，而不是环境来适应我们！

当你有了学习线路，学习哪些内容，也知道以后的路怎么走了，理论看多了总要实践的

最后，互联网不存在所谓的寒冬，只是你没有努力罢了！

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化学习资料的朋友，可以戳这里获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

提升。**

需要这份系统化学习资料的朋友，可以戳这里获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！