JAVA-用HttpClient来模拟浏览器GET,POST (1)

转载 2011年01月23日 12:37:00
  1. JAVA-用HttpClient来模拟浏览器GET,POST 
  2. 一 般的情况下我们都是使用IE或者Navigator浏览器来访问一个WEB服务器,用来浏览页面查看信息或者提交一些数据等等。所访问的这些页面有的仅仅 是一些普通的页面,有的需要用户登录后方可使用,或者需要认证以及是一些通过加密方式传输,例如HTTPS。目前我们使用的浏览器处理这些情况都不会构成 问题。不过你可能在某些时候需要通过程序来访问这样的一些页面,比如从别人的网页中“偷”一些数据;利用某些站点提供的页面来完成某种功能,例如说我们想 知道某个手机号码的归属地而我们自己又没有这样的数据,因此只好借助其他公司已有的网站来完成这个功能,这个时候我们需要向网页提交手机号码并从返回的页 面中解析出我们想要的数据来。如果对方仅仅是一个很简单的页面,那我们的程序会很简单,本文也就没有必要大张旗鼓的在这里浪费口舌。但是考虑到一些服务授 权的问题,很多公司提供的页面往往并不是可以通过一个简单的URL就可以访问的,而必须经过注册然后登录后方可使用提供服务的页面,这个时候就涉及到 COOKIE问题的处理。我们知道目前流行的动态网页技术例如ASP、JSP无不是通过COOKIE来处理会话信息的。为了使我们的程序能使用别人所提供 的服务页面,就要求程序首先登录后再访问服务页面,这过程就需要自行处理cookie,想想当你用java.net.HttpURLConnection 来完成这些功能时是多么恐怖的事情啊!况且这仅仅是我们所说的顽固的WEB服务器中的一个很常见的“顽固”!再有如通过HTTP来上传文件呢?不需要头 疼,这些问题有了“它”就很容易解决了!    
  3.   
  4. 我们不 可能列举所有可能的顽固,我们会针对几种最常见的问题进行处理。当然了,正如前面说到的,如果我们自己使用 java.net.HttpURLConnection来搞定这些问题是很恐怖的事情,因此在开始之前我们先要介绍一下一个开放源码的项目,这个项目就是 Apache开源组织中的httpclient,它隶属于Jakarta的commons项目,目前的版本是2 .0RC2。commons下本来已经有一个net的子项目,但是又把httpclient单独提出来,可见http服务器的访问绝非易事。  
  5.   
  6. Commons- httpclient项目就是专门设计来简化HTTP客户端与服务器进行各种通讯编程。通过它可以让原来很头疼的事情现在轻松的解决,例如你不再管是 HTTP或者HTTPS的通讯方式,告诉它你想使用HTTPS方式,剩下的事情交给httpclient替你完成。本文会针对我们在编写HTTP客户端程 序时经常碰到的几个问题进行分别介绍如何使用httpclient来解决它们,为了让读者更快的熟悉这个项目我们最开始先给出一个简单的例子来读取一个网 页的内容,然后循序渐进解决掉前进中的所有问题。  
  7. 1 .  读取网页(HTTP/HTTPS)内容  
  8. 下面是我们给出的一个简单的例子用来访问某个页面  
  9.   /**/ /*  
  10.  * Created on 2003-12-14 by Liudong  
  11.  */   
  12.   
  13. package  http.demo;  
  14. import  java.io.IOException;  
  15. import  org.apache.commons.httpclient.*;  
  16. import  org.apache.commons.httpclient.methods.*;  
  17. /** */ /**  
  18.  * 最简单的HTTP客户端,用来演示通过GET或者POST方式访问某个页面  
  19.  * @author Liudong  
  20.  */   
  21. public   class  SimpleClient ...{  
  22.     public   static   void  main(String[] args)  throws  IOException  
  23.     ...{  
  24.         HttpClient client = new  HttpClient();     
  25.         //设置代理服务器地址和端口        
  26.      //client.getHostConfiguration().setProxy("proxy_host_addr",proxy_port);   
  27.         //使用GET方法,如果服务器需要通过HTTPS连接,那只需要将下面URL中的http换成https   
  28.         HttpMethod method = new  GetMethod( "http://java.sun.com" ;);   
  29.         //使用POST方法   
  30.      //HttpMethod method = new PostMethod("http://java.sun.com";);    
  31.         client.executeMethod(method);  
  32.         //打印服务器返回的状态   
  33.      System.out.println(method.getStatusLine());  
  34.        //打印返回的信息   
  35.      System.out.println(method.getResponseBodyAsString());  
  36.        //释放连接   
  37.      method.releaseConnection();  
  38.     }  
  39. } 在 这个例子中首先创建一个HTTP客户端(HttpClient)的实例,然后选择提交的方法是GET或者POST,最后在HttpClient实例上执行 提交的方法,最后从所选择的提交方法中读取服务器反馈回来的结果。这就是使用HttpClient的基本流程。其实用一行代码也就可以搞定整个请求的过 程,非常的简单!  
  40.   
  41. 2 .  以GET或者POST方式向网页提交参数  
  42. 其 实前面一个最简单的示例中我们已经介绍了如何使用GET或者POST方式来请求一个页面,本小节与之不同的是多了提交时设定页面所需的参数,我们知道如果 是GET的请求方式,那么所有参数都直接放到页面的URL后面用问号与页面地址隔开,每个参数用&隔开,例如:http://java.sun.com?name=liudong&mobile=123456,但是当使用POST方法时就会稍微有一点点麻烦。本小节的例子演示向如何查询手机号码所在的城市,代码如下:   
  43. /**/ /*  
  44.  * Created on 2003-12-7 by Liudong  
  45.  */   
  46. package  http.demo;  
  47. import  java.io.IOException;  
  48. import  org.apache.commons.httpclient.*;  
  49. import  org.apache.commons.httpclient.methods.*;  
  50. /** */ /**  
  51.  * 提交参数演示  
  52.  * 该程序连接到一个用于查询手机号码所属地的页面  
  53.  * 以便查询号码段1330227所在的省份以及城市  
  54.  * @author Liudong  
  55.  */   
  56.   
  57. public   class  SimpleHttpClient ...{  
  58.     public   static   void  main(String[] args)  throws  IOException  
  59.     ...{  
  60.         HttpClient client = new  HttpClient();  
  61.         client.getHostConfiguration().setHost("www.imobile.com.cn" 80 "http" );  
  62.         HttpMethod method = getPostMethod();//使用POST方式提交数据   
  63.      client.executeMethod(method);  
  64.        //打印服务器返回的状态   
  65.      System.out.println(method.getStatusLine());  
  66.        //打印结果页面   
  67.     String response =   new  String(method.getResponseBodyAsString().getBytes( "8859_1" ));  
  68.        //打印返回的信息   
  69.      System.out.println(response);  
  70.         method.releaseConnection();  
  71.     }  
  72.     /** */ /**  
  73.      * 使用GET方式提交数据  
  74.    * @return  
  75.      */   
  76.     private   static  HttpMethod getGetMethod()...{  
  77.         return   new  GetMethod( "/simcard.php?simcard=1330227" );  
  78.     }  
  79.     /** */ /**  
  80.      * 使用POST方式提交数据  
  81.    * @return  
  82.      */   
  83.     private   static  HttpMethod getPostMethod()...{  
  84.         PostMethod post = new  PostMethod( "/simcard.php" );  
  85.         NameValuePair simcard = new  NameValuePair( "simcard" , "1330227" );  
  86.         post.setRequestBody(new  NameValuePair[] ...{ simcard});  
  87.         return  post;  
  88.     }  
  89. } 在上面的例子中页面http://www.imobile.com.cn /simcard.php需要一个参数是simcard,这个参数值为手机号码段,即手机号码的前七位,服务器会返回提交的手机号码对应的省份、城市以及 其他详细信息。GET的提交方法只需要在URL后加入参数信息,而POST则需要通过NameValuePair类来设置参数名称和它所对应的值   
  90.   
  91. 3 .  处理页面重定向  
  92.   
  93. 在 JSP/Servlet编程中response.sendRedirect方法就是使用HTTP协议中的重定向机制。它与JSP中 的<jsp:forward  …>的区别在于后者是在服务器中实现页面的跳转,也就是说应用容器加载了所要跳转的页面的内容并返回给客户 端;而前者是返回一个状态码,这些状态码的可能值见下表,然后客户端读取需要跳转到的页面的URL并重新加载新的页面。就是这样一个过程,所以我们编程的 时候就要通过HttpMethod.getStatusCode()方法判断返回值是否为下表中的某个值来判断是否需要跳转。如果已经确认需要进行页面跳 转了,那么可以通过读取HTTP头中的location属性来获取新的地址。  
  94.   
  95. 状态码  
  96.  对应HttpServletResponse的常量  
  97.  详细描述  
  98.    
  99. 301   
  100.  SC_MOVED_PERMANENTLY  
  101.  页面已经永久移到另外一个新地址  
  102.    
  103. 302   
  104.  SC_MOVED_TEMPORARILY  
  105.  页面暂时移动到另外一个新的地址  
  106.    
  107. 303   
  108.  SC_SEE_OTHER  
  109.  客户端请求的地址必须通过另外的URL来访问  
  110.    
  111. 307   
  112.  SC_TEMPORARY_REDIRECT  
  113.  同SC_MOVED_TEMPORARILY  
  114.   
  115.   
  116. 下面的代码片段演示如何处理页面的重定向  
  117. client.executeMethod(post);  
  118.         System.out.println(post.getStatusLine().toString());   
  119.         post.releaseConnection();  
  120.         //检查是否重定向   
  121.      int  statuscode = post.getStatusCode();  
  122.         if  ((statuscode == HttpStatus.SC_MOVED_TEMPORARILY) ||  
  123.             (statuscode == HttpStatus.SC_MOVED_PERMANENTLY) ||  
  124.             (statuscode == HttpStatus.SC_SEE_OTHER) ||  
  125.             (statuscode == HttpStatus.SC_TEMPORARY_REDIRECT))   
  126.         ...{//读取新的URL地址   
  127.          Header header = post.getResponseHeader("location" );  
  128.               if  (header !=  null ) ...{  
  129.                  String newuri = header.getValue();  
  130.                  if  ((newuri ==  null ) || (newuri.equals( "" )))  
  131.                       newuri = "/" ;   
  132.                GetMethod redirect = new  GetMethod(newuri);  
  133.                client.executeMethod(redirect);  
  134.                 System.out.println("Redirect:" + redirect.getStatusLine().toString());   
  135.                 redirect.releaseConnection();  
  136.             } else  ...{  
  137.                System.out.println("Invalid redirect" );  
  138.         } 我们可以自行编写两个JSP页面,其中一个页面用response.sendRedirect方法重定向到另外一个页面用来测试上面的例子。  
  139.   
  140. 4 .  模拟输入用户名和口令进行登录  
  141.   
  142. 本 小节应该说是HTTP客户端编程中最常碰见的问题,很多网站的内容都只是对注册用户可见的,这种情况下就必须要求使用正确的用户名和口令登录成功后,方可 浏览到想要的页面。因为HTTP协议是无状态的,也就是连接的有效期只限于当前请求,请求内容结束后连接就关闭了。在这种情况下为了保存用户的登录信息必 须使用到Cookie机制。以JSP/Servlet为例,当浏览器请求一个JSP或者是Servlet的页面时,应用服务器会返回一个参数,名为 jsessionid(因不同应用服务器而异),值是一个较长的唯一字符串的Cookie,这个字符串值也就是当前访问该站点的会话标识。浏览器在每访问 该站点的其他页面时候都要带上jsessionid这样的Cookie信息,应用服务器根据读取这个会话标识来获取对应的会话信息。  
  143.   
  144. 对 于需要用户登录的网站,一般在用户登录成功后会将用户资料保存在服务器的会话中,这样当访问到其他的页面时候,应用服务器根据浏览器送上的Cookie中 读取当前请求对应的会话标识以获得对应的会话信息,然后就可以判断用户资料是否存在于会话信息中,如果存在则允许访问页面,否则跳转到登录页面中要求用户 输入帐号和口令进行登录。这就是一般使用JSP开发网站在处理用户登录的比较通用的方法。  
  145.   
  146. 这 样一来,对于HTTP的客户端来讲,如果要访问一个受保护的页面时就必须模拟浏览器所做的工作,首先就是请求登录页面,然后读取Cookie值;再次请求 登录页面并加入登录页所需的每个参数;最后就是请求最终所需的页面。当然在除第一次请求外其他的请求都需要附带上Cookie信息以便服务器能判断当前请 求是否已经通过验证。说了这么多,可是如果你使用httpclient的话,你甚至连一行代码都无需增加,你只需要先传递登录信息执行登录过程,然后直接 访问想要的页面,跟访问一个普通的页面没有任何区别,因为类HttpClient已经帮你做了所有该做的事情了,太棒了!下面的例子实现了这样一个访问的 过程。  
  147. /**/ /*  
  148.  * Created on 2003-12-7 by Liudong  
  149.  */   
  150. package  http.demo;  
  151. import  org.apache.commons.httpclient.*;  
  152. import  org.apache.commons.httpclient.cookie.*;  
  153. import  org.apache.commons.httpclient.methods.*;  
  154. /** */ /**  
  155.  * 用来演示登录表单的示例  
  156.  * @author Liudong  
  157.  */   
  158. public   class  FormLoginDemo ...{  
  159.     static   final  String LOGON_SITE =  "localhost" ;  
  160.     static   final   int     LOGON_PORT =  8080 ;  
  161.     public   static   void  main(String[] args)  throws  Exception...{  
  162.         HttpClient client = new  HttpClient();  
  163.         client.getHostConfiguration().setHost(LOGON_SITE, LOGON_PORT);  
  164.         //模拟登录页面login.jsp->main.jsp   
  165.         PostMethod post = new  PostMethod( "/main.jsp" );  
  166.         NameValuePair name = new  NameValuePair( "name" "ld" );       
  167.         NameValuePair pass = new  NameValuePair( "password" "ld" );       
  168.         post.setRequestBody(new  NameValuePair[]...{name,pass});  
  169.        int  status = client.executeMethod(post);  
  170.        System.out.println(post.getResponseBodyAsString());  
  171.        post.releaseConnection();    
  172.        //查看cookie信息   
  173.     CookieSpec cookiespec = CookiePolicy.getDefaultSpec();  
  174.       Cookie[] cookies = cookiespec.match(LOGON_SITE, LOGON_PORT, "/" false , client.getState().getCookies());  
  175.        if  (cookies.length ==  0 ) ...{  
  176.            System.out.println("None" );      
  177.        } else  ...{  
  178.            for  ( int  i =  0 ; i < cookies.length; i++) ...{  
  179.               System.out.println(cookies[i].toString());      
  180.            }  
  181.       }  
  182.        //访问所需的页面main2.jsp   
  183.         GetMethod get = new  GetMethod( "/main2.jsp" );  
  184.         client.executeMethod(get);  
  185.         System.out.println(get.getResponseBodyAsString());  
  186.         get.releaseConnection();  
  187.     }  
  188. 5 .  提交XML格式参数  
  189.   
  190. 提交XML格式的参数很简单,仅仅是一个提交时候的ContentType问题,下面的例子演示从文件文件中读取XML信息并提交给服务器的过程,该过程可以用来测试Web服务。  
  191. import  java.io.File;  
  192. import  java.io.FileInputStream;  
  193. import  org.apache.commons.httpclient.HttpClient;  
  194. import  org.apache.commons.httpclient.methods.EntityEnclosingMethod;  
  195. import  org.apache.commons.httpclient.methods.PostMethod;  
  196. /** */ /**  
  197.  * 用来演示提交XML格式数据的例子  
  198.  */   
  199. public   class  PostXMLClient ...{  
  200.     public   static   void  main(String[] args)  throws  Exception ...{  
  201.         File input = new  File(“test.xml”);  
  202.         PostMethod post = new  PostMethod(“http: //localhost:8080/httpclient/xml.jsp”);   
  203.         // 设置请求的内容直接从文件中读取   
  204.      post.setRequestBody(new  FileInputStream(input));  
  205.         if  (input.length() < Integer.MAX_VALUE)   
  206.            post.setRequestContentLength(input.length());  
  207.         else              
  208.            post.setRequestContentLength(EntityEnclosingMethod.CONTENT_LENGTH_CHUNKED);  
  209.         // 指定请求内容的类型   
  210.      post.setRequestHeader("Content-type" "text/xml; charset=GBK" );  
  211.         HttpClient httpclient = new  HttpClient();   
  212.         int  result = httpclient.executeMethod(post);   
  213.         System.out.println("Response status code: "  + result);  
  214.         System.out.println("Response body: " );  
  215.         System.out.println(post.getResponseBodyAsString());  
  216.         post.releaseConnection();  
  217.     }  
  218. 6 .  通过HTTP上传文件  
  219.   
  220. httpclient使用了单独的一个HttpMethod子类来处理文件的上传,这个类就是MultipartPostMethod,该类已经封装了文件上传的细节,我们要做的仅仅是告诉它我们要上传文件的全路径即可,下面的代码片段演示如何使用这个类。  
  221.   
  222. MultipartPostMethod filePost = new  MultipartPostMethod(targetURL);  
  223. filePost.addParameter("fileName" , targetFilePath);  
  224. HttpClient client = new  HttpClient();  
  225. //由于要上传的文件可能比较大,因此在此设置最大的连接超时时间   
  226. client.getHttpConnectionManager().getParams().setConnectionTimeout(5000 );  
  227. int  status = client.executeMethod(filePost); 上面代码中,targetFilePath即为要上传的文件所在的路径。  
  228.   
  229. 7 .  访问启用认证的页面  
  230.   
  231. 我 们经常会碰到这样的页面,当访问它的时候会弹出一个浏览器的对话框要求输入用户名和密码后方可,这种用户认证的方式不同于我们在前面介绍的基于表单的用户 身份验证。这是HTTP的认证策略,httpclient支持三种认证方式包括:基本、摘要以及NTLM认证。其中基本认证最简单、通用但也最不安全;摘 要认证是在HTTP  1.1 中加入的认证方式,而NTLM则是微软公司定义的而不是通用的规范,最新版本的NTLM是比摘要认证还要安全的一种方式。  
  232.   
  233. 下面例子是从httpclient的CVS服务器中下载的,它简单演示如何访问一个认证保护的页面:  
  234. import  org.apache.commons.httpclient.HttpClient;  
  235. import  org.apache.commons.httpclient.UsernamePasswordCredentials;  
  236. import  org.apache.commons.httpclient.methods.GetMethod;  
  237. public   class  BasicAuthenticationExample ...{  
  238.    public  BasicAuthenticationExample() ...{  
  239.     }  
  240.    public   static   void  main(String[] args)  throws  Exception ...{  
  241.        HttpClient client = new  HttpClient();  
  242.         client.getState().setCredentials(  
  243.             "www.verisign.com" ,  
  244.             "realm" ,  
  245.             new  UsernamePasswordCredentials( "username" "password" )  
  246.         );  
  247.         GetMethod get = new  GetMethod( "https://www.verisign.com/products/index.html" ;);  
  248.         get.setDoAuthentication( true  );  
  249.         int  status = client.executeMethod( get );  
  250.         System.out.println(status+"" + get.getResponseBodyAsString());  
  251.         get.releaseConnection();  
  252.     }  
  253. 8 .  多线程模式下使用httpclient  
  254.   
  255. 多 线程同时访问httpclient,例如同时从一个站点上下载多个文件。对于同一个HttpConnection同一个时间只能有一个线程访问,为了保证 多线程工作环境下不产生冲突,httpclient使用了一个多线程连接管理器的 类:MultiThreadedHttpConnectionManager,要使用这个类很简单,只需要在构造HttpClient实例的时候传入即 可,代码如下:  
  256. MultiThreadedHttpConnectionManager connectionManager =   
  257.    new  MultiThreadedHttpConnectionManager();  
  258. HttpClient client = new  HttpClient(connectionManager);   
  259.   
  260. 本文来自CSDN博客,转载请标明出处:http://blog.csdn.net/jadesun/archive/2006/11/23/1406959.aspx

JAVA-用HttpClient来模拟浏览器GET,POST

一般的情况下我们都是使用IE或者Navigator浏览器来访问一个WEB服务器,用来浏览页面查看信息或者提交一些数据等等。所访问的这些页面有的仅仅是一些普通的页面,有的需要用户登录后方可使用,或者需要...

用HttpClient来模拟浏览器GET POST

  • 2008年02月02日 13:41
  • 1.51MB
  • 下载

用HttpClient来模拟浏览器GET POST

一般的情况下我们都是使用IE或者Navigator浏览器来访问一个WEB服务器,用来浏览页面查看信息或者提交一些数据等等。所访问的这些页面有的仅仅是一些普通的页面,有的需要用户登录后方可使用,或者需要...

UWP——HttpClient模拟浏览器的GET、POST请求

在MVC学习系列继续之前,这里先插一篇——HttpClient模拟浏览器的GET、POST请求。这也是我的第一个UWP应用程序。这一篇和上一篇类似,只不过将HttpWebRequest换成了HttpC...

UWP——HttpClient模拟浏览器的GET、POST请求之Win10 Mobile测试

上一篇写了我的第一个UWP应用程序,是在电脑上测试的,这篇讲述如何将程序如何部署在手机上。首先还是先看一下原始数据: 这篇的重点在于部署到手机上,代码基本上没有什么变化,所以就不说了。在VS中找到...

java使用HttpClient模拟发送http的get、post请求

Http请求类 public class HttpRequest { /** * 向指定URL发送GET方法的请求 * * @param url * ...
  • hbxfyxw
  • hbxfyxw
  • 2017年05月31日 22:49
  • 365

java发送post和get请求(1)---HttpClient 方式

一般的情况下我们都是使用IE或者Navigator浏览器来访问一个WEB服务器,用来浏览页面查看信息或者提交一些数据等等。所访问的这些页面有的仅仅是一些普通的页面,有的需要用户登录后方可使用 ,...

java 模拟浏览器进行get和post请求

java 模拟浏览器进行get和post请求
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:JAVA-用HttpClient来模拟浏览器GET,POST (1)
举报原因:
原因补充:

(最多只允许输入30个字)