项目在做爬虫获取数据中,发现有的返回的是html,想要根据class,id等来获取元素中的信息。发现有一个jar提供了此功能
maven
<dependency>
<groupId>org.jsoup</groupId>
<artifactId>jsoup</artifactId>
<version>1.11.3</version>
</dependency>
常用的方法:
getElementById(String id) 用id获得元素
getElementsByTag(String tag) 用标签获得元素
getElementsByClass(String className) 用class获得元素
getElementsByAttribute(String key) 用属性获得元素
获得元素的数据:
attr(String key) 获得元素的数据
attr(String key, String value) 设置元素数据
attributes() 获得所以属性
id() 获得id
className() classNames() 获得class得值
text() 获得文本值
text(String value) 设置文本值
html() 获取html
html(String value) 设置html
outerHtml() 获得内部html
data() 获得数据内容
tag() 获得tag
tagName() 获得tagname
val() input值
获取兄弟节点
siblingElements()
firstElementSibling()
lastElementSibling()
nextElementSibling()
previousElementSibling()
demo
public static void vivoAd(){
List<Map<String,Object>> list = new ArrayList<Map<String,Object>>();
String cookie = "IUaGYjuwTupCdHUUpFO6OavCIUcsVNf8%3D1231";
String url = "https://192.168.0.122:8080/planIdea/queryPlanPage.action";
String html = HttpClientUtils.httpReptileGet(url,cookie,"");
Document doc = Jsoup.parse(html);
Elements bodys = doc.getElementsByClass("spread_ul");
for (Element body : bodys) {
Elements lis = body.getElementsByTag("li");
for(Element li : lis){
Elements spans = li.getElementsByTag("span");
Elements as = spans.get(0).getElementsByTag("a");
Map<String,Object> map = new HashMap<String,Object>();
map.put("planId", as.attr("href").substring(as.attr("href").indexOf("=")+1));
map.put("spread_name", spans.get(1).text()); //推广计划
map.put("spread_exposure", spans.get(2).text()); //曝光量
map.put("spread_downlaod", spans.get(3).text()); //下载量
map.put("spread_conversion", spans.get(4).text()); //转化率
map.put("spread_consume", spans.get(5).text()); //转化率
list.add(map);
}
}
System.out.println(list);
}
public static void vivoAdStartMinTime(){
String cookie = "31321upCdHUUpFO6OavCIUcsVNf8%3D";
String url = "https://192.168.0.122:8080/planIdea/queryIdeaPage.action?planId=3934";
String html = HttpClientUtils.httpReptileGet(url,cookie,"");
Document doc = Jsoup.parse(html);
Element el = doc.getElementById("startMinDate");
System.out.println(el.val());
}
有喜欢的朋友可以关注下头条号《老徐聊技术》