【初学】java爬虫并抓取图片保存

这是我参考了网上一些资料写的第一个java爬虫程序

本来是想获取煎蛋网无聊图的图片,但是网络返回码一直是503,所以换了网站

 

 

/*
 * 网络爬虫取数据
 * 
 * */
public class JianDan {
	public static String GetUrl(String inUrl){
		StringBuilder sb = new StringBuilder();
		try {
			URL url =new URL(inUrl);
			BufferedReader reader =new BufferedReader(new InputStreamReader(url.openStream()));
			
			String temp="";
			while((temp=reader.readLine())!=null){
				//System.out.println(temp);
				sb.append(temp);
			}
		} catch (MalformedURLException e) {
			// TODO 自动生成的 catch 块
			e.printStackTrace();
		} catch (IOException e) {
			// TODO 自动生成的 catch 块
			e.printStackTrace();
		}
		return sb.toString();
	}
	public static List<String> getMatcher(String str,String url){
		List<String> result = new ArrayList<String>();
		Pattern p =Pattern.compile(url);//获取网页地址
		Matcher m =p.matcher(str);
		while(m.find()){
			String bingoStr = m.group(1);
			bingoStr = regexUrl(m.group(1),"(//)*([\\w\\s./:?&-@#$%^]+?)");
			if(null != bingoStr && !"".equals(bingoStr)) {
				result.add(bingoStr);
			}
		}
		return result;
	}
	public static String regexUrl(String url,String regex) {
		Pattern p =Pattern.compile(regex);//获取网页地址
		Matcher m =p.matcher(url);
		if(m.matches()) {
			String rightStr = m.group(2);
			if(!"//".equals(m.group(1)) && (rightStr.contains("jpg") || rightStr.contains("jpeg") || rightStr.contains("png"))) {
				return rightStr;
			}
		}
		return null;
	}
	public static void main(String args[]){
		String str=GetUrl("http://www.163.com");
		System.out.println(str);
		List<String> ouput =getMatcher(str,"src=\"([^<][\\w\\s./:?&-@#$%^]+?[^.js])\"");
		
		if(null == ouput || ouput.size() ==0) {
			System.out.println("无匹配链接");
			return ;
		}
		for(String temp:ouput){
			//System.out.println(ouput.get(0));
			System.out.println(temp);
		}
		String aurl=ouput.get(0);
		 // 构造URL
		URL url;
		try {
			url = new URL(aurl);
			 // 打开URL连接
			URLConnection con = (URLConnection)url.openConnection();
			 // 得到URL的输入流
			InputStream input = con.getInputStream();
			// 设置数据缓冲
			byte[] bs = new byte[1024 * 2];
			// 读取到的数据长度
			int len;
			// 输出的文件流保存图片至本地
			OutputStream os = new FileOutputStream("a.png");
			while ((len = input.read(bs)) != -1) {
			os.write(bs, 0, len);
			}
			os.close();
			input.close();
		} catch (MalformedURLException e) {
			// TODO 自动生成的 catch 块
			e.printStackTrace();
		} catch (IOException e) {
			// TODO 自动生成的 catch 块
			e.printStackTrace();
		}
		
	} 
}

 

 

 

 

 

  • 10
    点赞
  • 42
    收藏
    觉得还不错? 一键收藏
  • 14
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 14
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值