2015年03月_Yoga-jiang

转载 httpClient获取Jsoup解析网页

因项目需要从某个网站爬取一点数据，故我将爬取记录如下，以后说不定还能用得到呢，废话少说，进入正题：HttpClient 是 Apache Jakarta Common 下的子项目，可以用来提供高效的、最新的、功能丰富的支持 HTTP 协议的客户端编程工具包，并且它支持 HTTP 协议最新的版本和建议。本文首先介绍 HTTPClient，然后根据作者实际工作经验给出了一些常见问题的解决方法。

2015-03-20 11:49:36 465

原创 Jsoup 解析Html源码实例

最近在做数据挖掘的过程中需要对html的源码进行解析，用到了Jsoup这个解析工具，下面写个基本实例来展现它的用法。需要用到jar包：jsoup-1.7.2.jar，可以到jsoup的官网下载：http://jsoup.org/download[java] view plaincopyprint?import java.io.File

2015-03-11 17:29:47 566

原创 jsoup解析HTML用法小结

使用HttpClient+jsoup做采集器有一段时间了，发现jsoup很好用，而且还有很多方便的东西都没怎么用上。于是想根据官网上的cookbook来对jsoup的使用做个小结，或者是归纳。按功能分类做个列表，方便在写程序的时候快速翻阅。1、jsoup的HTML文档（Document）对象模型Document对象由Element和TextNode对象组成继承链Document

2015-03-11 17:06:10 970

HTML是WEB的核心，互联网中你看到的所有页面都是HTML，不管它们是由JavaScript，JSP，PHP,ASP或者是别的什么WEB技术动态生成的。你的浏览器会去解析HTML并替你去渲染它们。不过如果你需要自己在Java程序中解析HTML文档并查找某些元素，标签，属性或者检查某个特定的元素是否存在的话，那又该如何呢？如果你已经使用Java编程多年了，我相信你肯定试过去解析XML，也使用过类似

2015-03-11 16:57:54 779

原创【Jsoup学习礼记】消除不受信任的HTML (来防止XSS攻击)

问题在做网站的时候，经常会提供用户评论的功能。有些不怀好意的用户，会搞一些脚本到评论内容中，而这些脚本可能会破坏整个页面的行为，更严重的是获取一些机要信息，此时需要清理该HTML，以避免跨站脚本cross-site scripting攻击（XSS）。方法使用jsoup HTML Cleaner 方法进行清除，但需要指定一个可配置的 Whitelist。String un

2015-03-11 15:57:24 662

原创【jsoup的学习礼记】设置一个元素的HTML内容

问题你需要一个元素中的HTML内容方法可以使用Element中的HTML设置方法具体如下：Element div = doc.select("div").first(); // div.html("lorem ipsum"); // lorem ipsumdiv.prepend("First");//在div前添加html内容div.append("Last");

2015-03-11 15:51:29 573

原创【Jsoup学习礼记】设置元素的文本内容

问题你需要修改一个HTML文档中的文本内容方法可以使用Element的设置方法：:Element div = doc.select("div").first(); // div.text("five > four"); // five > fourdiv.prepend("First ");div.append(" Last");// now: First

2015-03-11 15:51:22 507

原创【Jsoup学习礼记】示例程序: 获取所有链接

这个示例程序将展示如何从一个URL获得一个页面。然后提取页面中的所有链接、图片和其它辅助内容。并检查URLs和文本信息。运行下面程序需要指定一个URLs作为参数package org.jsoup.examples;import org.jsoup.Jsoup;import org.jsoup.helper.Validate;import org.jsoup.nodes.Docu

2015-03-11 15:48:03 727

原创【Jsoup学习礼记】设置属性的值

问题在你解析一个Document之后可能想修改其中的某些属性值，然后再保存到磁盘或都输出到前台页面。方法可以使用属性设置方法 Element.attr(String key, String value), 和 Elements.attr(String key, String value).假如你需要修改一个元素的 class 属性，可以使用 Element.

2015-03-11 15:48:02 680

原创【Jsoup学习礼记】处理URLs

问题你有一个包含相对URLs路径的HTML文档，需要将这些相对路径转换成绝对路径的URLs。方法在你解析文档时确保有指定base URI，然后使用 abs: 属性前缀来取得包含base URI的绝对路径。代码如下： Document doc = Jsoup.connect("http://www.open-open.com").get();Element l

2015-03-11 15:46:53 528

原创【Jsoup学习礼记】从元素抽取属性，文本和HTML

问题在解析获得一个Document实例对象，并查找到一些元素之后，你希望取得在这些元素中的数据。方法要取得一个属性的值，可以使用Node.attr(String key) 方法对于一个元素中的文本，可以使用Element.text()方法对于要取得元素或属性中的HTML内容，可以使用Element.html(), 或 Node.outerHtml()方法示例

2015-03-11 15:45:51 526

原创【Jsoup的学习礼记】使用选择器语法来查找元素

问题你想使用类似于CSS或jQuery的语法来查找和操作元素。方法可以使用Element.select(String selector) 和 Elements.select(String selector) 方法实现：File input = new File("/tmp/input.html");Document doc = Jsoup.parse(inpu

2015-03-11 15:36:04 675

原创【Jsoup学习礼记】使用DOM方法来遍历一个文档

问题你有一个HTML文档要从中提取数据，并了解这个HTML文档的结构。方法将HTML解析成一个Document之后，就可以使用类似于DOM的方法进行操作。示例代码：File input = new File("/tmp/input.html");Document doc = Jsoup.parse(input, "UTF-8", "http://example.com

2015-03-11 15:34:40 543

原创【Jsoup学习礼记】从一个文件加载一个文档

问题在本机硬盘上有一个HTML文件，需要对它进行解析从中抽取数据或进行修改。办法可以使用静态 Jsoup.parse(File in, String charsetName, String baseUri) 方法：File input = new File("/tmp/input.html");Document doc = Jsoup.parse(input, "

2015-03-11 15:33:01 445

原创【Jsoup学习礼记】从一个URL加载一个Document

存在问题你需要从一个网站获取和解析一个HTML文档，并查找其中的相关数据。你可以使用下面解决方法：解决方法使用 Jsoup.connect(String url)方法:Document doc = Jsoup.connect("http://example.com/").get();String title = doc.title();说明con

2015-03-11 15:28:40 547

原创【Jsoup学习礼记】解析一个body片断

问题假如你有一个HTML片断 (比如. 一个 div 包含一对 p 标签; 一个不完整的HTML文档) 想对它进行解析。这个HTML片断可以是用户提交的一条评论或在一个CMS页面中编辑body部分。办法使用Jsoup.parseBodyFragment(String html)方法.String html = "Lorem ipsum.";Document d

2015-03-11 15:20:34 485

原创【Jsoup学习礼记】解析一个HTML字符串

存在问题来自用户输入，一个文件或一个网站的HTML字符串，你可能需要对它进行解析并取其内容，或校验其格式是否完整，或想修改它。怎么办？jsonu能够帮你轻松解决这些问题解决方法使用静态Jsoup.parse(String html) 方法或 Jsoup.parse(String html, String baseUri)示例代码：String html = "F

2015-03-11 15:19:14 542

原创【Jsoup学习礼记】解析和遍历一个HTML文档

如何解析一个HTML文档：String html = "First parse" + "Parsed HTML into a doc.";Document doc = Jsoup.parse(html);(更详细内容可查看解析一个HTML字符串.)其解析器能够尽最大可能从你提供的HTML文档来创见一个干净的解析结果，无论HTML的格式是否完整。比如它可以处理：

2015-03-11 15:16:40 328

Yoga-jiang