java爬取网页源代码,解析

1.搜索词的地址采用模拟地址方法(通过分析搜索引擎的参数得到,如百度),然后将搜索词加到模拟的地址中。

2.函数的输入参数是模拟地址。

String query = URLEncoder.encode("潘柱廷", "UTF-8");

String url="http://www.baidu.com/s?wd="+query+"&pn="+p*10+"&tn=baiduhome_pg&ie=utf-8"

public void MakeQuery(String domain) {
  try {
   HttpClient httpClient = new HttpClient();
   GetMethod getMethod = new GetMethod(domain);
   
   //System.out.println("*************************************************************");
   //System.out.println(getMethod);

   try{
    httpClient.executeMethod(getMethod);
    }catch(Exception e){
     System.out.println("网络问题");
    }
   getMethod.getParams().setParameter(HttpMethodParams.RETRY_HANDLER,
     new DefaultHttpMethodRetryHandler());

   int statusCode = httpClient.executeMethod(getMethod);
   if (statusCode != HttpStatus.SC_OK) {
    System.err.println("Method failed: "
      + getMethod.getStatusLine());
   }
   
   
   byte[] responseBody = getMethod.getResponseBody();
   
   //System.out.println("*************************************************************");
   //System.out.println(responseBody);
   
   
   
   String response = new String(responseBody, "UTF-8");
   
   //System.out.println("*************************************************************");
   //System.out.println(response);
   
   //Jsoup解析html
   Document doc=Jsoup.parse(response);
   //System.out.println("*************************************************************");
   //System.out.println(doc);
  
 
   
   Elements contents=doc.getElementsByClass("f");
   for(Element content:contents){

   Element links = content.getElementsByTag("a").first();
     String linkHref = links.attr("href");//链接
     String linkText = links.text();//摘要
     FoursearchZH.map.put(linkHref, linkText);
    
     System.out.println("------------------");
     System.out.println(linkHref);
        System.out.println(linkText);
    }
  
  } catch (Exception e) {
   System.err.println("Something went wrong...");
   e.printStackTrace();
  }
  }

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值