首先我们新建一个Maven普通客项目
在pom.xml贴上依赖
<dependencies>
<dependency>
<groupId>net.sourceforge.htmlunit</groupId>
<artifactId>htmlunit</artifactId>
<version>2.27</version>
</dependency>
</dependencies>
然后我们写一个测试类,来解析https://www.baidu.com获取网页html以及网页文本,这里有点类似httpClient,但是底层执行过程默认多了一个js执行过程(当然htmlunit提供了关闭js解析设置)
package com.gcx.htmlunit;
import java.io.IOException;
import java.net.MalformedURLException;
import com.gargoylesoftware.htmlunit.BrowserVersion;
import com.gargoylesoftware.htmlunit.FailingHttpStatusCodeException;
import com.gargoylesoftware.htmlunit.WebClient;
import com.gargoylesoftware.htmlunit.html.HtmlPage;
public class HelloWorld {
public static void main(String[] args) {
//实例化web客户端 模拟指定浏览器
WebClient wc=new WebClient(BrowserVersion.FIREFOX_45);
try {
//解析获取页面
HtmlPage page = wc.getPage("https://www.baidu.com");
//获取html
System.out.println("网页:"+page.asXml());
System.out.println("-----------------------");
//获取文本
System.out.println("获取文本:"+page.asText());
} catch (FailingHttpStatusCodeException e) {
e.printStackTrace();
} catch (MalformedURLException e) {
e.printStackTrace();
} catch (IOException e) {
e.printStackTrace();
wc.close();//关闭客户端,释放资源
}
}
}
html部分输出:
文本内容输出: