2024年最全手把手学爬虫第四弹——数据存储，Python面试题2024基础

最后

Python崛起并且风靡，因为优点多、应用领域广、被大牛们认可。学习 Python 门槛很低，但它的晋级路线很多，通过它你能进入机器学习、数据挖掘、大数据，CS等更加高级的领域。Python可以做网络应用，可以做科学计算，数据分析，可以做网络爬虫，可以做机器学习、自然语言处理、可以写游戏、可以做桌面应用…Python可以做的很多，你需要学好基础，再选择明确的方向。这里给大家分享一份全套的 Python 学习资料，给那些想学习 Python 的小伙伴们一点帮助！

👉Python所有方向的学习路线👈

Python所有方向的技术点做的整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照上面的知识点去找对应的学习资源，保证自己学得较为全面。

👉Python必备开发工具👈

工欲善其事必先利其器。学习Python常用的开发软件都在这里了，给大家节省了很多时间。

👉Python全套学习视频👈

我们在看视频学习的时候，不能光动眼动脑不动手，比较科学的学习方法是在理解之后运用它们，这时候练手项目就很适合了。

👉实战案例👈

学python就与学数学一样，是不能只看书不做题的，直接看步骤和答案会让人误以为自己全都掌握了，但是碰到生题的时候还是会一筹莫展。

因此在学习python的过程中一定要记得多动手写代码，教程只需要看一两遍即可。

👉大厂面试真题👈

我们学习Python必然是为了找到高薪的工作，下面这些面试题是来自阿里、腾讯、字节等一线互联网大厂最新的面试资料，并且有阿里大佬给出了权威的解答，刷完这一套面试资料相信大家都能找到满意的工作。

需要这份系统化学习资料的朋友，可以戳这里获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！

| a+ | 以读写方式打开文件 |

| ab+ | 以二进制追加打开文件 |

保存为txt文本

这应该是爬虫数据保存最简单的一种方式了，直接看代码，这里为了方便我将所有的数据保存都定义为函数，调用对应的函数实现保存即可。

第一种写法：

这种方式需要定义file等于

def save_txt_2(mystr):

file = open(‘…/Include/电影-1.txt’, ‘a’, encoding=‘utf-8’)

file.write(mystr+‘\n’)

file.close()

第二种写法：

这种方法对一种方法进行了简化，一般都会使用这种方式

保存数据为txt（简写的方式）

def save_txt_1(mystr):

with open(‘…/Include/电影.txt’, ‘a’, encoding=‘utf-8’) as file:

file.write(f’{mystr}\n’)

保存为JSON

json作为一种很常见的数据存储格式，通常以一个大括号包裹着键值对的形式，例如下面的这个数据

{‘name’:‘张三’, ‘age’:18, ‘sex’:‘男’}

数据存储为json

def save_json(data):

with open(‘…/Include/电影.json’, ‘a’, encoding=‘utf-8’) as file:

file.write(f’{data}\n’)

保存为CSV

逗号分隔值（Comma-Separated Values，CSV，有时也称为字符分隔值，因为分隔字符也可以不是逗号），其文件以纯文本形式存储表格数据（数字和文本）。纯文本意味着该文件是一个字符序列，不含必须像二进制数字那样被解读的数据。CSV文件由任意数目的记录组成，记录间以某种换行符分隔；每条记录由字段组成，字段间的分隔符是其它字符或字符串，最常见的是逗号或制表符。

因为爬虫里面我们通常会以字典的形式保存数据，所以这里我就演示如何将字典数据存储为csv文件。

数据存储为csv

def save_csv(data):

with open(‘…/Include/电影.csv’, ‘a’, encoding=‘utf-8’) as file:

注意这里的fieldnames里的字段必须和你要存储的字典里的键对应，否则会报错

fieldnames = [‘电影名称：’, ‘导演与演员：’, ‘电影评分：’, ‘评价人数：’, ‘电影总结：’]

writer = csv.DictWriter(file, fieldnames=fieldnames)

writer.writerow(data)

保存到数据库

---

保存到MySQL

MySQL作为一种开源关系型数据深受开发者的喜欢，在爬虫数据存储的过程中我们也经常使用。

与前面存储为文本形式不同，存储到数据库时我们通常需要先连接数据库，然后才能执行存储操作，这里我事先在mysql里面见一个名为movies的数据库和一张名为movie的数据表。

数据存储到MySQL

def save_mysql(data):

建立连接

db = pymysql.connect(host=‘127.0.0.1’, user=‘root’, password=‘123456’, port=3306, db=‘movies’)

建立游标

cursor = db.cursor()

sql语句

sql = "insert into movice(mname,director,score,allcount,summary) values (%s,%s,%s,%s,%s) "

操作

data = (data[‘电影名称：’], data[‘导演与演员：’], data[‘电影评分：’], data[‘评价人数：’], data[‘电影总结：’])

try:

cursor.execute(sql,data)

db.commit()

except Exception as e:

print(‘插入数据失败’, e)

db.rollback() # 回滚

关闭游标

cursor.close()

关闭连接

db.close()

保存到MongoDB

MongoDB是一个基于分布式文件存储的数据库。由C++语言编写。旨在为WEB应用提供可扩展的高性能数据存储解决方案。

MongoDB是一个介于关系数据库和非关系数据库之间的产品，是非关系数据库当中功能最丰富，最像关系数据库的。它支持的数据结构非常松散，是类似json的bson格式，因此可以存储比较复杂的数据类型。Mongo最大的特点是它支持的查询语言非常强大，其语法有点类似于面向对象的查询语言，几乎可以实现类似关系数据库单表查询的绝大部分功能，而且还支持对数据建立索引。

和上面连接数据库一样，我们存储数据之前需要先连接数据库，然后执行对应的数据库语句才能完成操作。

数据存储到MongoDB

def save_mongo(data):

创建数据库连接

client = pymongo.MongoClient(host=‘localhost’, port=27017)

指定数据库

db = client.movies

指定集合

collection = db.movie

执行操作

result = collection.insert_one(data)

print(result)

一、Python所有方向的学习路线

Python所有方向的技术点做的整理，形成各个领域的知识点汇总，它的用处就在于，你可以按照下面的知识点去找对应的学习资源，保证自己学得较为全面。

二、Python必备开发工具

工具都帮大家整理好了，安装就可直接上手！

三、最新Python学习笔记

当我学到一定基础，有自己的理解能力的时候，会去阅读一些前辈整理的书籍或者手写的笔记资料，这些笔记详细记载了他们对一些技术点的理解，这些理解是比较独到，可以学到不一样的思路。

四、Python视频合集

观看全面零基础学习视频，看视频学习是最快捷也是最有效果的方式，跟着视频中老师的思路，从基础到深入，还是很容易入门的。

五、实战案例

纸上得来终觉浅，要学会跟着视频一起敲，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。

六、面试宝典

简历模板

网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。

需要这份系统化学习资料的朋友，可以戳这里获取

一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！