手把手学爬虫第四弹——数据存储，科学技术协会面试题目

• 保存到Redis

• 总结

什么是数据存储

---

这个我感觉真的不用解释了吧。就是把爬取到的数据做一个保存，数据的存储形式多种多样，但主要分为两类，一类是简单的保存为文本文件，例如txt、json、csv等，另一类是保存到数据库，例如MySQL、MongoDB、Redis等。接下来就来学习这些方法吧~

准备工作

---

学习数据存储前我们需要先爬取数据，这里我就不再编写这部分代码了，直接用前面爬取豆瓣的代码演示，不明白的回去看我前面的博客哦

保存为文本形式

---

文件打开方式

tip: 这里列举一下文件保存的一个参数

| 参数 | 含义 |

| — | — |

| r | 只读方式打开（默认这种方式） |

| rb | 以二进制只读打开（用于音频、图片、视频） |

| r+ | 以读写方式打开文件 |

| rb+ | 以二进制读写打开 |

| w | 以写入方式打开文件（文件存在则覆盖，不存在就新建） |

| wb | 以二进制写入方式写入（文件存在则覆盖，不存在就新建） |

| w+ | 以读写方式打开文件 （文件存在则覆盖，不存在就新建） |

| wb+ | 以二进制读写方式打开文件 （文件存在则覆盖，不存在就新建） |

| a | 以追加方式打开文件 |

| ab | 以二进制追加方式打开文件 |

| a+ | 以读写方式打开文件 |

| ab+ | 以二进制追加打开文件 |

保存为txt文本

这应该是爬虫数据保存最简单的一种方式了，直接看代码，这里为了方便我将所有的数据保存都定义为函数，调用对应的函数实现保存即可。

第一种写法：

这种方式需要定义file等于

def save_txt_2(mystr):

file = open(‘…/Include/电影-1.txt’, ‘a’, encoding=‘utf-8’)

file.write(mystr+‘\n’)

file.close()

第二种写法：

这种方法对一种方法进行了简化，一般都会使用这种方式

保存数据为txt（简写的方式）

def save_txt_1(mystr):

with open(‘…/Include/电影.txt’, ‘a’, encoding=‘utf-8’) as file:

file.write(f’{mystr}\n’)

保存为JSON

json作为一种很常见的数据存储格式，通常以一个大括号包裹着键值对的形式，例如下面的这个数据

{‘name’:‘张三’, ‘age’:18, ‘sex’:‘男’}

数据存储为json

def save_json(data):

with open(‘…/Include/电影.json’, ‘a’, encoding=‘utf-8’) as file:

file.write(f’{data}\n’)

保存为CSV

逗号分隔值（Comma-Separated Values，CSV，有时也称为字符分隔值，因为分隔字符也可以不是逗号），其文件以纯文本形式存储表格数据（数字和文本）。纯文本意味着该文件是一个字符序列，不含必须像二进制数字那样被解读的数据。CSV文件由任意数目的记录组成，记录间以某种换行符分隔；每条记录由字段组成，字段间的分隔符是其它字符或字符串，最常见的是逗号或制表符。

因为爬虫里面我们通常会以字典的形式保存数据，所以这里我就演示如何将字典数据存储为csv文件。

数据存储为csv

def save_csv(data):

with open(‘…/Include/电影.csv’, ‘a’, encoding=‘utf-8’) as file:

注意这里的fieldnames里的字段必须和你要存储的字典里的键对应，否则会报错

fieldnames = [‘电影名称：’, ‘导演与演员：’, ‘电影评分：’, ‘评价人数：’, ‘电影总结：’]

writer = csv.DictWriter(file, fieldnames=fieldnames)

writer.writerow(data)

保存到数据库

---

自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。

深知大多数Python工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年Python开发全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上Python开发知识点，真正体系化！

由于文件比较大，这里只是将部分目录大纲截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且后续会持续更新

如果你觉得这些内容对你有帮助，可以添加V获取：vip1024c （备注Python）

文末有福利领取哦~

👉一、Python所有方向的学习路线

Python所有方向的技术点做的整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。

👉二、Python必备开发工具

👉三、Python视频合集

观看零基础学习视频，看视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。

👉 四、实战案例

光学理论是没用的，要学会跟着一起敲，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。（文末领读者福利）

👉五、Python练习题

检查学习结果。

👉六、面试资料

我们学习Python必然是为了找到高薪的工作，下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料，并且有阿里大佬给出了权威的解答，刷完这一套面试资料相信大家都能找到满意的工作。

👉因篇幅有限，仅展示部分资料，这份完整版的Python全套学习资料已经上传

一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

tps://img-blog.csdnimg.cn/5db8141418d544d3a8e9da4805b1a3f9.png)

👉因篇幅有限，仅展示部分资料，这份完整版的Python全套学习资料已经上传

一个人可以走的很快，但一群人才能走的更远。不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎扫码加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！
[外链图片转存中…(img-Yn8Z1mfK-1712838932636)]