htmlunit获取指定元素

htmlunit 提供了丰富的api来获取指定元素 jsoup有的  htmlunit也有

package com.gcx.htmlunit;

import java.io.IOException;
import java.net.MalformedURLException;

import com.gargoylesoftware.htmlunit.BrowserVersion;
import com.gargoylesoftware.htmlunit.FailingHttpStatusCodeException;
import com.gargoylesoftware.htmlunit.WebClient;
import com.gargoylesoftware.htmlunit.html.DomElement;
import com.gargoylesoftware.htmlunit.html.DomNodeList;
import com.gargoylesoftware.htmlunit.html.HtmlDivision;
import com.gargoylesoftware.htmlunit.html.HtmlListItem;
import com.gargoylesoftware.htmlunit.html.HtmlPage;

public class Search {
	public static void main(String[] args) {
		//实例化web客户端 模拟指定浏览器
		WebClient wc=new WebClient(BrowserVersion.FIREFOX_45);
		try {
			//解析获取页面
			HtmlPage page = wc.getPage("http://www.bjsxt.com");
			//查找指定id 的 html dom元素
			HtmlDivision hd  = page.getHtmlElementById("LRdiv0");
			System.out.println(hd.asXml());
			
			System.out.println("-------------------------------");
			//根据tag名称查找所有tag
			DomNodeList<DomElement> elementsByTagName = page.getElementsByTagName("a");
			for(int i=0;i<elementsByTagName.getLength();i++){
				DomElement domElement = elementsByTagName.get(i);
				System.out.println(domElement.asXml());
			}
			System.out.println("-------------------------------");
			//获取指定xpath
			HtmlListItem item= (HtmlListItem) page.getByXPath("//div[@id='navMenu'][1]/ul/li").get(0);
			System.out.println(item.asXml());
		} catch (FailingHttpStatusCodeException e) {
			e.printStackTrace();
		} catch (MalformedURLException e) {
			e.printStackTrace();
		} catch (IOException e) {
			e.printStackTrace();
			wc.close();//关闭客户端,释放资源
		}
		
	}
}


  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
HtmlUnit是一个Java库,用于模拟浏览器的行为,可以用来获取动态HTML。以下是一段示例代码: ```java import com.gargoylesoftware.htmlunit.WebClient; import com.gargoylesoftware.htmlunit.html.HtmlPage; public class Test { public static void main(String[] args) throws Exception { // 创建一个WebClient实例 WebClient client = new WebClient(); // 启用JS解释器,默认为false client.getOptions().setJavaScriptEnabled(true); // 禁用Css,可避免自动二次请求CSS进行渲染 client.getOptions().setCssEnabled(false); // 获取网页 HtmlPage page = client.getPage("http://example.com"); // 等待JS执行完成 client.waitForBackgroundJavaScript(1000); // 获取当前页面的动态HTML代码 String html = page.asXml(); // 输出HTML代码 System.out.println(html); // 关闭WebClient实例 client.close(); } } ``` 在这个示例代码中,我们首先创建了一个WebClient实例,启用了JavaScript解释器,并禁用了CSS。接下来,使用`client.getPage()`方法获取指定网页的HTML代码,并将其赋值给名为`page`的变量。然后,使用`client.waitForBackgroundJavaScript()`方法等待页面上的所有JavaScript执行完成。最后,使用`page.asXml()`方法获取当前页面的动态HTML代码,并将其赋值给名为`html`的变量。最后,我们输出了HTML代码并关闭了WebClient实例。 需要注意的是,获取动态HTML可能需要一些时间,因此我们使用`client.waitForBackgroundJavaScript()`方法等待页面上的所有JavaScript执行完成。在某些情况下,您可能需要增加等待的时间,以确保所有JavaScript都执行完成。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值