html页面索引数据(网页爬虫)

博主第三篇文章

博主自己喜欢倒腾,比较喜欢搞事情,所以这次分享点儿福利给大家哦

多余的不说,还是看代码实际

package com.test.reptile;

import java.util.ArrayList;
import java.util.List;

import org.jsoup.Jsoup;
import org.jsoup.nodes.Document;
import org.jsoup.select.Elements;

/**
 * Tips:这里引入Jsoup jar包哦
 * @author hedong
 */
public class ReptileTest {

	public static void main(String[] args) {
		// TODO Auto-generated method stub
		String url = "http://www.btanf.com/search/加勒比-first-asc-1";// 这里的加勒比可以自己随意更改,具体自己去比对www.btanf.com的get数据
		getString(url);
	}

	public static void getString(String url) {
		try {
			Document doc = null;
			doc = Jsoup.connect(url).timeout(10000).get();// 链接超时设置,自己定义
			List<String> list1 = new ArrayList<>();// 存储数据,可以存redis,博主不做处理了,你们自己实现吧
			List<String> list2 = new ArrayList<>();// 存储数据,同上
			// 第一个属性
			Elements elemp = doc.getElementsByTag("p");// 找到所有p标签的值,<p>我就是要获取的值</p>
			Elements elema = doc.getElementsByTag("a");// 道理同上
			for (int i = 0; i < elemp.size(); i++) {// 遍历,不多解释
				list1.add(elemp.get(i).text());// text()方法在这里面算是核心方法吧,可以获取所有值,可以用下面的方法试试,就能理解了
				// System.out.println(elemp.text());用这个方法试试就知道了
			}
			for (int i = 0; i < elema.size(); i++) {
				if (elema.get(i).text().equals("迅雷链接")) {// 过滤自己想要的数据
					list2.add(elema.get(i).attr("href"));// 获取标签里面的href的值
				}
			}
			// 处理数据并且包装到类里面
			List<ReptileBean> list3 = new ArrayList<>();
			for (int i = 0; i < list2.size(); i++) {
				list3.add(new ReptileBean(list1.get(i), list2.get(i)));
			}
			// 打印所有值
			for (ReptileBean reptileBean : list3) {
				System.out.println(reptileBean);
			}
		} catch (Exception e) {
			e.printStackTrace();
		}

	}
}
package com.test.reptile;

public class ReptileBean {

	private String arg0;
	private String arg1;
	public String getArg0() {
		return arg0;
	}
	public void setArg0(String arg0) {
		this.arg0 = arg0;
	}
	
	public String getArg1() {
		return arg1;
	}
	public void setArg1(String arg1) {
		this.arg1 = arg1;
	}
	@Override
	public String toString() {
		return "ReptileBean [arg0=" + arg0 + ", arg1=" + arg1 + "]";
	}
	public ReptileBean() {
		super();
	}
	public ReptileBean(String arg0, String arg1) {
		super();
		this.arg0 = arg0;
		this.arg1 = arg1;
	}
}

博主原创,转载请说明出处

如有问题可联系博主755964539@qq.com

阅读更多

没有更多推荐了,返回首页