网络爬虫在抓取数据时，必须处理URLError和HTTPError异常。URLError通常在无网络连接或服务器不存在时发生，而HTTPError是基于服务器返回的HTTP状态码，如'404 Not Found'，可能是因为URL错误或IP被屏蔽，此时可能需要使用代理IP来继续爬取。
每个程序都不可避免地要进行异常处理，爬虫也不例外，假如不进行异常处理，可能导致爬虫程序直接崩掉。以下是网络爬虫出现的异常种类。
URLError
通常，URLError在没有网络连接(没有路由到特定服务器)，或者服务器不存在的情况下产生。
HTTPError
首先我们要明白服务器上每一个HTTP 应答对象response都包含一个数字“状态码”，该状态码表示HTTP协议所返回的响应的状态，这就是HTTPError。比如当产生“404 Not Found”的时候，便表示“没有找到对应页面”，可能是输错了URL地址，也可能IP被该网站屏蔽了，这时便要使用代理IP进行爬取数据。
两者关系
两者是父类与子类的关系，即 HTTPError 是
订阅专栏 解锁全文
扫一扫
2724
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
