python 网页爬虫nike_python网络爬虫-爬取网页的三种方式（1）

0.前言

0.1 抓取网页

本文将举例说明抓取网页数据的三种方式：正则表达式、BeautifulSoup、lxml。

获取网页内容所用代码详情请参照Python网络爬虫-你的第一个爬虫。利用该代码获取抓取整个网页。

import requests

def download(url, num_retries=2, user_agent='wswp', proxies=None):

'''下载一个指定的URL并返回网页内容

参数：

url(str): URL

关键字参数：

user_agent(str):用户代理(默认值：wswp)

proxies(dict)： 代理(字典): 键：‘http’'https'

值：字符串(‘http(s)://IP’)

num_retries(int):如果有5xx错误就重试(默认：2)

#5xx服务器错误，表示服务器无法完成明显有效的请求。

#https://zh.wikipedia.org/wiki/HTTP%E7%8A%B6%E6%80%81%E7%A0%81

'''

print('==========================================')

print('Downloading:', url)

headers = {'User-Agent': user_agent} #头部设置，默认头部有时候会被网页反扒而出错

try:

resp = requests.get(url, headers=headers, proxies=proxies) #简单粗暴，.get(url)

html = resp.text #获取网页内容，字符串形式

if resp.status_code >= 400: #异常处理，4xx客户端错误 返回None

print('Download error:', resp.text)

html = None

if num_retries and 500 <= resp.status_code < 600:

# 5类错误

return download(url, num_retries - 1)#如果有服务器错误就重试两次

except requests.exceptions.RequestException as e: #其他错误，正常报错

print('Download error:', e)

html = None

return html #返回html

0.2 爬取目标

网页结构

分析网页结构可以看出，所有内容都在标签

7,686,850 s