Python 3.x 中"HTTP Error 403: Forbidden"问题的解决方案

转载 2016年08月30日 12:38:35

转载自 http://www.2cto.com/kf/201309/242273.html


问题:

urllib.request.urlopen() 方法经常会被用来打开一个网页的源代码,然后会去分析这个页面源代码,但是对于有的网站使用这种方法时会抛出"HTTP Error 403: Forbidden"异常。


例如: 执行下面的语句时 

urllib.request.urlopen("http://blog.csdn.net/eric_sunah/article/details/11099295")


会出现以下异常:

File "D:\Python32\lib\urllib\request.py", line 475, in open  
    response = meth(req, response)  
  File "D:\Python32\lib\urllib\request.py", line 587, in http_response  
    'http', request, response, code, msg, hdrs)  
  File "D:\Python32\lib\urllib\request.py", line 513, in error  
    return self._call_chain(*args)  
  File "D:\Python32\lib\urllib\request.py", line 447, in _call_chain  
    result = func(*args)  
  File "D:\Python32\lib\urllib\request.py", line 595, in http_error_default  
    raise HTTPError(req.full_url, code, msg, hdrs, fp)  
urllib.error.HTTPError: HTTP Error 403: Forbidden


分析:

之所以出现上面的异常,是因为如果用 urllib.request.urlopen() 方式打开一个URL,服务器端只会收到一个单纯的对于该页面访问的请求,但是服务器并不知道发送这个请求使用的浏览器,操作系统,硬件平台等信息,而缺失这些信息的请求往往都是非正常的访问,例如爬虫。


有些网站为了防止这种非正常的访问,会验证请求信息中的UserAgent(它的信息包括硬件平台、系统软件、应用软件和用户个人偏好),如果UserAgent存在异常或者是不存在,那么这次请求将会被拒绝(如上错误信息所示)

所以可以尝试在请求中加入UserAgent的信息。


方案:

对于Python 3.x来说,在请求中添加UserAgent的信息非常简单,代码如下:

headers = {'User-Agent':'Mozilla/5.0 (Windows NT 6.1; WOW64; rv:23.0) Gecko/20100101 Firefox/23.0'}  
req = urllib.request.Request(url=chaper_url, headers=headers)  
urllib.request.urlopen(req).read() 

谷歌浏览器中如何查看headers信息

http://jingyan.baidu.com/article/27fa73268ff4e146f8271f33.html

python爬虫之urlError异常处理

1.URLError URLError产生的原因: (1)网络无连接,即本机无法上网 (2)连接不到特定的服务器 (3)服务器不存在 import urllib.request im...

python 爬虫 url error : HTTP 403 Forbidden

爬取QQ空间内容的时候, 一开始的程序,不知道怎么回事,频繁出现

Python网页爬虫提示urllib2.HTTPError: HTTP Error 403: Forbidden 错误

最近写一个Python网页爬虫脚本,提示urllib2.HTTPError: HTTP Error 403: Forbidden,问了度娘,找到了下面的解决方法,解决了问题. 出现url...

python3 HTTP Error 403:Forbidden

问题描述初学python,在用python中的urllib.request.urlopen()方法打开网页时,有些网站会抛出异常: HTTP Error 403:Forbidden问题原因网站对爬虫的...

Python 3.x 中"HTTP Error 403: Forbidden"问题的解决方案

urllib.request.urlopen() 方法经常会被用来打开一个网页的源代码,然后会去分析这个页面源代码,但是对于有的网站使用这种方法时会抛出"HTTP Error 403: Forbidd...

python爬虫解决403禁止访问错误

python 403禁止访问问题

urllib2.urlopen 返回403

python中我经常使用urllib2.urlopen函数提取网页源码,但是有些时候这个函数返回的却是:HTTP Error 403: Forbidden,这表明源网站不允许爬虫进行爬取,举例说明: ...

用python 写爬虫,去爬csdn的内容,完美解决 403 Forbidden

转自:http://www.yihaomen.com/article/python/210.htm csdn上偶尔还是有那么一两篇好文章的,如果遇到这样的好文章,你想直接把它弄到自己的网站里面,或者...
  • zhaoyl03
  • zhaoyl03
  • 2013年03月03日 22:19
  • 13622

Python爬虫(三)——URLError和HTTPError异常处理

一、URLError造成原因 本地网络未连接 服务器不存在 连接不到特点的服务器 既然异常处理就会使用到try/except,下面简单介绍try/except捕获异常二、try/except异常捕获使...
  • w_linux
  • w_linux
  • 2017年11月01日 12:07
  • 149

python学习笔记 ---- 关于URLError和HTTPError

当urlopen不能处理服务器的响应时,会抛出URLError异常。 HTTPError是URLError的子类,它抛出的异常是更为具体地指向HTTP URLs. URLError 通常,UR...
  • whd526
  • whd526
  • 2016年08月22日 18:12
  • 4937
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:Python 3.x 中"HTTP Error 403: Forbidden"问题的解决方案
举报原因:
原因补充:

(最多只允许输入30个字)