Python爬虫（二）：爬虫获取数据保存到文件

进击的码农！

已于 2024-01-05 20:36:16 修改

阅读量2.2k

点赞数 20

分类专栏： python 文章标签： python 爬虫 Python爬虫爬虫保存数据爬虫程序

于 2023-12-04 11:40:16 首次发布

本文链接：https://blog.csdn.net/libaiup/article/details/134780181

版权

python 专栏收录该内容

613 篇文章 35 订阅

订阅专栏

接上一篇文章： Python爬虫（一）：编写简单爬虫之新手入门

前言：

上一篇文章，我爬取到了豆瓣官网的页面代码，我在想怎样让爬取到的页面显示出来呀，爬到的数据是html页面代码，不如将爬取到的代码保存到一个文件中，文件命名为html格式，那直接打开这个文件就可以在浏览器上看到爬取数据的效果了。废话不多说，进入正文。

本篇文章：继续介绍另外两种方式来实现python爬虫获取数据，并将python获取的数据保存到文件中。

一、第一种方式：

主要通过爬取百度官网页面数据，将数据保存到文件baidu.html中，程序运行完打开文件baidu.html查看效果。具体代码中有详细的代码解释，相信刚入门的你也能看懂~~

说明一下我的代码环境是python3.7，本地环境是python2.x的可能需要改部分代码，用python3.x环境的没问题。

代码如下：

# -*- coding: utf-8 -*-
import urllib.request
import urllib

# 1、网址url  --百度    
url = 'http://www.baidu.com'

# 2、创建request请求对象
request = urllib.request.Request(url)

# 3、发送请求获取结果
response = urllib.request.urlopen(request)
htmldata = response.read()

# 4、设置编码方式
htmldata = htmldata.decode('utf-8')

# 5、打印结果
print (htmldata)

# 6、打印爬去网页的各类信息
print ("response的类型:",type(response))
print ("请求的url:",response.geturl())
print ("响应的信息:",response.info())
print ("状态码:",response.getcode())

# 7、爬取数据保存到文件
fileOb = open('baidu.html','w',encoding='utf-8')     #打开一个文件，没有就新建一个
fileOb.write(htmldata)
fileOb.close()

在open()方法中如果没有设置编码encoding=‘utf-8’，会报错，原因如下：
在windows下面，新文件的默认编码是gbk，这样的话，python解释器会用gbk编码去解析我们的网络数据流html，
然而html此时已经是decode过的unicode编码，这样的话就会导致解析不了，出现上述问题。
设置encoding=‘utf-8’，打开文件时就按照utf-8格式编码，则顺利运行。

运行结果：

部分截图如下：截取的是第六步中的网页各类信息，第五步打印的数据过多，也已经保存到文件baidu.html中了，所以没有截取。

下图是运行程序之后在本地生成的baidu.html文件**：**

打开此baidu.html文件结果如下图所示：

有没有很神奇是不是和百度页面一模一样^_，没错，就是这样子的

二、第二种方式：添加特殊情景的处理器

代码如下：

# -*- coding: utf-8 -*-
import urllib.request, http.cookiejar

# 1、网址url  --百度
url = 'http://www.baidu.com'

# 2、创建cookie容器
cj = http.cookiejar.CookieJar()
handle = urllib.request.HTTPCookieProcessor(cj)

# 3、创建1个opener
opener = urllib.request.build_opener(handle)

# 4、给urllib.request安装opener
urllib.request.install_opener(opener)

# 5、使用带有cookie的urllib.request访问网页,发送请求返回结果
response = urllib.request.urlopen(url)
htmldata = response.read()

# 6、设置编码方式
data = htmldata.decode("utf-8")

# 7、打印结果
print (data)

# 8、打印爬去网页的各类信息
print ("response的类型:",type(response))
print ("请求的url:",response.geturl())
print ("响应的信息:",response.info())
print ("状态码:",response.getcode())

# 9、爬取数据保存到文件
fileOb = open('baiduCookie.html','w',encoding='utf-8')     #打开一个文件，没有就新建一个
fileOb.write(data)
fileOb.close()

为了区别第一种生成的文件baidu.html，这里我将第二种生成的文件命名为baiduCookie.html

这种方式结果和第一种一样，只是代码不同，所以下面不在赘述，结果见第一种即可。

喜欢我的文章的可以关注哦，有问题的可以提出来，互相交流，互相学习^_

觉得不过瘾，看下一篇文章。

接下一篇文章： Python爬虫（三）：python抓取网页中的图片到本地