前面我们的测试代码是直接请求的,有些网站服务器防火墙会直接拒绝访问。
我们现在用htmlunit来模拟下浏览器请求;主要是加了一些头消息;
这个是我们用火狐调试工具看到的请求头小心里的属性,当然上面还有返回的头消息;
我们用htmlunit可以模拟浏览器执行,内置的可以模拟IE,火狐,谷歌;
WebClient构造方法里有个重载方法,可以加一个指定版本属性;
完整代码:package com.open1111;
import java.io.IOException;
import java.net.MalformedURLException;
import com.gargoylesoftware.htmlunit.BrowserVersion;
import com.gargoylesoftware.htmlunit.FailingHttpStatusCodeException;
import com.gargoylesoftware.htmlunit.WebClient;
import com.gargoylesoftware.htmlunit.html.HtmlPage;
public class HtmlUnitTest {
public static void main(String[] args) {
WebClient webClient=new WebClient(BrowserVersion.FIREFOX_52); // 实例化Web客户端
try {
HtmlPage page=webClient.getPage("http://www.java1234.com"); // 解析获取页面
System.out.println("网页html:"+page.asXml()); // 获取Html
System.out.println("====================");
System.out.println("网页文本:"+page.asText()); // 获取文本
} catch (FailingHttpStatusCodeException e) {
// TODO Auto-generated catch block
e.printStackTrace();
} catch (MalformedURLException e) {
// TODO Auto-generated catch block
e.printStackTrace();
} catch (IOException e) {
// TODO Auto-generated catch block
e.printStackTrace();
}finally{
webClient.close(); // 关闭客户端,释放内存
}
}
}
运行效果和前面的一样;