java使用HttpURLConnection检索网站时403错误处理方式

java使用HttpURLConnection检索网站时403错误处理方式:

我们通过代码方式访问网站时会报错:



此种情况分2中类型,

1.需要登录才可以访问;

2.需要设置User-Agent来欺骗服务器。

connection.setRequestProperty("User-Agent", "Mozilla/4.0 (compatible; MSIE 5.0; Windows NT; DigExt)");

User Agent说明:

User Agent中文名为用户代理,简称 UA,它是一个特殊字符串头,使得服务器能够识别客户使用的操作系统及版本、CPU 类型、浏览器及版本、浏览器渲染引擎、浏览器语言、浏览器插件等。  

一些网站常常通过判断 UA 来给不同的操作系统、不同的浏览器发送不同的页面,因此可能造成某些页面无法在某个浏览器中正常显示,但通过伪装 UA 可以绕过检测。

java访问网站代码:

    /**
     *  发起http get请求获取网页源代码 
     * @param requestUrl
     * @param isUserAgent 是否设置欺骗服务器
     * @return
     */
     
    public static String httpRequest(String requestUrl,boolean isUserAgent) {  
        StringBuffer buffer = null;  
  
        try {  
            // 建立连接  
            URL url = new URL(requestUrl);  
            HttpURLConnection httpUrlConn = (HttpURLConnection) url.openConnection();  
            httpUrlConn.setDoInput(true);  
            httpUrlConn.setRequestMethod("GET");  
            if(isUserAgent){
            	httpUrlConn.setRequestProperty("User-Agent", "Mozilla/4.0 (compatible; MSIE 5.0; Windows NT; DigExt)");
            }
            // 获取输入流  
            InputStream inputStream = httpUrlConn.getInputStream();  
            InputStreamReader inputStreamReader = new InputStreamReader(inputStream, "utf-8");  
            BufferedReader bufferedReader = new BufferedReader(inputStreamReader);  
  
            // 读取返回结果  
            buffer = new StringBuffer();  
            String str = null;  
            while ((str = bufferedReader.readLine()) != null) {  
                buffer.append(str);  
            }  
        } catch (Exception e) {  
            e.printStackTrace();  
        }finally{
<pre name="code" class="java">            // 释放资源  
            bufferedReader.close();  
            inputStreamReader.close();  
            inputStream.close();  
            httpUrlConn.disconnect();  
        } return buffer.toString(); }
 

执行结果:顺利获取到网页代码。




  • 19
    点赞
  • 35
    收藏
    觉得还不错? 一键收藏
  • 10
    评论
以下是使用HttpURLConnection转发get请求的Java代码,其中包含了设置请求头和参数的方法: ```java import java.io.BufferedReader; import java.io.InputStreamReader; import java.net.HttpURLConnection; import java.net.URL; import java.util.Map; public class HttpUtil { public static String sendGet(String url, Map<String, String> headers, Map<String, String> params) throws Exception { StringBuilder result = new StringBuilder(); String urlNameString = url + "?" + getUrlParams(params); URL realUrl = new URL(urlNameString); HttpURLConnection connection = (HttpURLConnection) realUrl.openConnection(); connection.setRequestMethod("GET"); connection.setConnectTimeout(5000); connection.setReadTimeout(5000); for (Map.Entry<String, String> entry : headers.entrySet()) { connection.setRequestProperty(entry.getKey(), entry.getValue()); } connection.connect(); if (connection.getResponseCode() == 200) { BufferedReader in = new BufferedReader(new InputStreamReader(connection.getInputStream())); String line; while ((line = in.readLine()) != null) { result.append(line); } in.close(); } connection.disconnect(); return result.toString(); } private static String getUrlParams(Map<String, String> params) { StringBuilder result = new StringBuilder(); for (Map.Entry<String, String> entry : params.entrySet()) { result.append(entry.getKey()).append("=").append(entry.getValue()).append("&"); } String paramsString = result.toString(); if (paramsString.endsWith("&")) { paramsString = paramsString.substring(0, paramsString.length() - 1); } return paramsString; } } ``` 如果你收到了405错误,这意味着你正在尝试使用不允许的HTTP方法。在这种情况下,你需要检查你的请求方法是否正确。如果你使用的是GET方法,那么你需要检查你的URL是否正确,并且你需要确保你没有在请求中包含任何不必要的参数。如果你使用的是POST方法,那么你需要确保你已经正确地设置了请求头和请求体,并且你需要确保你的请求体中包含了所有必要的参数。
评论 10
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值