html抽取文本信息-java版(适合lucene建立索引)

import org.htmlparser.NodeFilter;
import org.htmlparser.Parser;
import org.htmlparser.beans.StringBean;
import org.htmlparser.filters.CssSelectorNodeFilter;
import org.htmlparser.util.NodeList;

public class HtmlUtil {
	public static String getText(String html, String id) {
		try {
			Parser parser = new Parser(html);
			NodeFilter filter = new CssSelectorNodeFilter("#" + id);
			NodeList nList = parser.extractAllNodesThatMatch(filter);
			return nList == null || nList.size() == 0 ? null : nList.elementAt(
					0).toPlainTextString();
		} catch (Exception e) {
			e.printStackTrace();
			return null;
		}
	}

	public static String getTextByClass(String html, String css_class) {
		try {
			Parser parser = new Parser(html);
			NodeFilter filter = new CssSelectorNodeFilter("." + css_class);
			NodeList nList = parser.extractAllNodesThatMatch(filter);
			return nList == null || nList.size() == 0 ? null : nList.elementAt(
					0).toPlainTextString();
		} catch (Exception e) {
			e.printStackTrace();
			return null;
		}
	}

	public static String filterText(String text) {
		if (text == null)
			return null;
		text = text.replace(">", ">");
		text = text.replace("<", "<");
		text = text.replace(""", "\"");
		text = text.replace(" ", " ");
		text = text.replace("&", "&");
		text = text.replace("&copy;", "©");
		text = text.replace(" ", "");
		return text;
	}

	/**
	 * 获取网页中纯文本信息
	 * 
	 * @param html
	 * @param id
	 * @return
	 * @throws Exception
	 * @throws Exception
	 */
	public static String getText(String html) throws Exception {
		StringBean bean = new StringBean();
		bean.setLinks(false);
		bean.setReplaceNonBreakingSpaces(true);
		bean.setCollapse(true);

		// 返回解析后的网页纯文本信息
		Parser parser = Parser.createParser(html, "utf-8");
		parser.visitAllNodesWith(bean);
		parser.reset();
		return bean.getStrings();
	}
}

需要用htmlparse.jar库,调用方式如下:

HtmlUtil.getText(htmlStr);

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值