本文详细介绍了Python网络爬虫的基础知识，包括Requests库的使用、Robots协议、Beautiful Soup库入门、信息组织与提取方法以及Re库的正则表达式。通过五个实例演示了使用Requests库爬取网页内容，还探讨了Scrapy爬虫框架的使用和优势，适合初学者入门学习。
目录
python网络爬虫与信息提取
Requests库入门
HTTP协议及Requests库方法
requests库的七个主要方法
request.request() #构建一个请求，支撑以下各方法的基础方法 request.get() #获取HTML网页的主要方法，对应于HTTP的GET request.head() #获取HTML网页头信息的方法，对应于HTTP的HEAD request.post() #向HTML网页提交POST请求的方法，对应于HTTP的POST request.put() #向HTML网页提交PUT请求的方法，对应于HTTP的PUT request.patch() #向HTML网页提交局部修改请求，对应于HTTP的PATCH request.delete()#向HTML页面提交删除请求，对应于HTTP的Delete
HTTP协议
HTTP，超文本传输协议。
HTTP是一个基于「请求与响应」模式的、无状态的应用层协议。
HTTP协议采用URL作为定位网络资源的标识。
URL格式 http://host:port
host:合法的internet主机域名或IP地址
port:端口号，缺省端口为80
path:请求资源的路径
HTTP URL的理解：
URL是通过HTTP协议存取资源的Internet路径，一个URL对应一个数据资源。
HTTP协议对资源的操作
GET #请求获取URL位置的资源 HEAD #请求获取URL位子资源的响应消息报告，即获得该资源的头部信息 POST #请求向URL位子的资源后附加新的数据 PUT #请求向URL位置存储一个资源，覆盖原URL位置的资源 PATCH #请求局部更新URL位置的资源，即改变该处资源的部分内容 DELETE #请求删除URL位置存储的资源
理解PATHC和PUT的区别
假设URL位置有一组数据UserInfo，包括UserID、UserName等20个字段。
需求：用户改变了UserName，其他不变。
*采用PATCH，仅向URL提交UserName的局部更新请求。
*采用PUT，必须将所有20个字段一并提交到URL，未提交字段被删除
PATCH的主要好处：节省网络带宽
Requests库的get()方法
r = requests.get(url) #构造一个向服务器请求资源的Request对象，返回一个包含服务器资源的Response对象 #requests.get(url,params=None,**kwargs) #url:获取页面的URL连接 #params:url中的额外参数，字典或字节流格式，可选 #**kwargs：12个控制访问的参数，可选
response对象的属性
r.status_code #HTTP请求的返回状态，200表示连接成功，404表示失败（只要不是200都是失败） r.text #HTTP响应内容的字符串形式，即，url对应的页面内容 r.encoding#从HTTP header中猜测的响应内容编码方式 r.apparent_encoding#从内容中分析出的响应内容编码方式（备选编码方式） r.content #HTTP响应内容的二进制形式
r.encoding：如果header中不存在charset，则认为编码为ISO-8859-1
r.apparent_encoding：根据网页内容分析出的编码方式
当r.encoding显示乱码时，使用r.apparent_encoding来解码相关信息。
Requests库的安装
pip install requests
Requests库主要方法解析
request.request(method,url,**kwargs)
method：请求方式，对应get/put/post等七种方法
url：获取页面的url链接
**kwargs：控制访问的参数，共13个
#method:请求方式
r=requests.request('GET',url,**kwargs)
r=requests.request('HEAD',url,**kwargs)
r=requests.request('POST',url,**kwargs)
r=requests.request('PUT',url,**kwargs)
r=requests.request('PATCH',url,**kwargs)
r=requests.request('delete',url,**kwargs)
r=requests.request('OPTIONS',url,**kwargs) #获取服务器与客户端可以打交道的参数
r=requests.request(method,url,**kwargs) #**kwargs:控制访问的参数，均为可选项
params
params：字典或字节序列，作为参数增加到url中
例：
kv = {'key1':'value1','key2':'value2'} r = requests.request('GET',url,params=kv) print(r.url) 返回:url?key1=value1&key2=value2
data
data:字典、字节序列或文件对象，作为request的内容
例：
kv = {'key1':'value1','key2':'value2'} r = requests.request('POST',url,data=kv) body = '主体内容' r = requests.request('POST',url,data=body)
json
json：JSON格式的数据，作为request的内容
例：
kv = {'key1':'value1','key2':'value2'} r = requests.request('POST',url,json=kv)
headers
headers：字典，HTTP定制头
可以模拟任何想模拟的浏览器向服务器发起访问
例：
hd=｛'user-agent':'chrome/10'｝
r = requests.request('POST',url,headers=hd)
cookies
cookies：字典或CookieJar，Request中的cookie
auth
auth：元组，支持HTTP认证功能
files
files：字典类型，传输文件
可以向某个特定的链接提交文件
例：
fs = {'file':open('data.xls','rb')}
r = requests.request('POST',url,files=fs)
timeout
timeout：设定超时时间，秒为单位
在请求时间内没有返回回来，那么会产生一个timeout异常
例：
r = requests.request('GET',url,timeout=10)
proxies
proxies：字典类型，设定访问代理服务器，可以增加登录认证
可以有效隐藏爬取网页的源IP地址信息
例：
pxs = {'http':'url' ,'https':'url2'}
r = requests.request('GET',url,proxies=pxs)
allow_redirects，stream,verify,cert
allow_redirects: True/False，默认为True，重定向开关
stream:True/False，默认为True，获取内容立即下载开关
verify：True/False，默认为True，认证SSL证书开关
cert：本地SSL证书路径
爬取网页的通用代码框架
try: r = requests.get(url,timeout=30) r.raise_for_status() #如果状态码不是200，将产生一次异常 r.encoding = r.apparent_encoding return r.text except: return "产生异常" #网络连接有风险，异常处理很重要
理解requests库的异常
requests.ConnectionError：网络连接错误异常，如DNS查询失败、拒绝连接等
requests.HTTPError：HTTP错误异常
requests.URLRequired：URL缺失异常
requests.TooManyRedirects：超过最大重定向次数，产生重定向异常
requests.ConnectTimeout：连接远程服务器超时异常 #仅指连接远程服务器时超时
requests.Timeout：请求URL超时，产生超时异常 #全过程超时发生的异常
r.raise_for_status()：如果不是200，产生异常requests.HTTPError
import requests
def getHTMLText(url):
try:
r = requests.get(url,timeout=30)
r.raise_for_status() #如果状态码不是200，将产生一次异常
r.encoding = r.apparent_encoding
return r.text
except:
return "产生异常"
if __name__=="__main__":
url= 'http://www.baidu.com'
print(getHTMLText(url))
Robots协议
Robots协议：网络爬虫排除协议
作用：网站告知爬虫哪些页面可以抓取，哪些不行。
形式：在网站根目录下的robots.txt文件
User-agent:* ：任何爬虫
Disallow:/? :不允许访问以问号开头的路径
Robots协议的遵守方式
网络爬虫：自动或人工识别robots.txt，再进行内容爬取。
约束性：Robots协议是建议但非约束性，网络爬虫可以不遵守，但存在法律风险。
类人行为可不参考robots协议
requests库网络爬虫实战五个实例
实例1：京东商品页面的爬取
import requests
url = "https://item.jd.con/2967929.html"
try:
r = requests.get(url,timeout=30)
r.raise_for_status() #如果状态码不是200，将产生一次异常
r.encoding = r.apparent_encoding
print(r.text)
except:
print("产生异常")
实例2：亚马逊商品页面的爬取
import requests
url = "任意亚马逊商品页面"
try:
kv = {'user-agent':'Mozilla/5.0'}
r = requests.get(url,timeout=30,headers=kv)
r.raise_for_status() #如果状态码不是200，将产生一次异常
r.encoding = r.apparent_encoding
print(r.text)
except:
print("产生异常")
实例3：百度360搜索关键词提交
import requests
keyword = "python"
url = 'http://www.baidu.com/s'
try:
kv = {'wd':keyword}
r = requests.get(url,timeout=30,params=kv)
r.raise_for_status() #如果状态码不是200，将产生一次异常
r.encoding = r.apparent_encoding
print(len(r.text)
except:
print("产生异常")
# 360
import requests
keyword = "python"
url = 'http://www.so.com/s'
try:
kv = {'wd':keyword}
r = requests.get(url,timeout=30,params=kv)
r.raise_for_status() #如果状态码不是200，将产生一次异常
r.encoding = r.apparent_encoding
print(len(r.text)
except:
print("产生异常")
#弹幕提示pip一个fake_useragent库，避免反扒
实例4：网络图片的爬取与储存
import requests
import os
url ="图片地址"
root = "D://PICS//" #存储地址
path = root = url.split('/')[-1]
try:
if not os.path.exists(root):
os.mkdir(root)
if not os.path.exists(path):
r = requests.get(url)
with open(path,"wb") as f:
f.write(r.content)
f.close()
print("文件保存成功")
except:
print("爬取失败")
#因为反扒原因，爬取失败
实例5：IP地址归属地的自动查询
import requests
url = "IP地址查询网站接口"
try:
kv = {'user-agent':'Mozilla/5.0'}
r = requests.get(url+'想查询的IP地址',timeout=30,headers=kv)
r.raise_for_status() #如果状态码不是200，将产生一次异常
r.encoding = r.apparent_encoding
print(r.text)
except:
print("产生异常")
Beautiful Soup库入门
Beautiful Soup库安装
pip install beautifulsoup4
from bs4 import BeautifulSoup
soup = BeautifulSoup('<p>data</p>','html.parser')
Beautiful Soup库的基本元素
Beautiful Soup库是解析、遍历、维护「标签树」的功能库
Beautiful Soup对应一个HTML/XML文档的全部内容
Beautiful Soup库解析器
bs4的HTML解析器：
语法：BeautifulSoup(mk,'html.parser')
条件：安装bs4库
lxml的HTML解析器：
语法：BeautifulSoup(mk,'lxml')
条件：pip install lxml
lxml的xml解析器：
语法：BeautifulSoup(ml,'xml')
条件：pip install lxml
html5lib的解析器：
语法：BeautifulSoup(mk,'html5lib')
条件：pip install html5lib
BeautifulSoup类的基本元素
Tag：标签，醉基本的信息组织单元，分别用<>和</>表明开头和结尾
Name：标签的名字，<p>...</p>的名字是&
最低0.47元/天 解锁文章
扫一扫
379
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
