手把手学爬虫第四弹——数据存储

什么是数据存储

    这个我感觉真的不用解释了吧。就是把爬取到的数据做一个保存，数据的存储形式多种多样，但主要分为两类，一类是简单的保存为文本文件，例如txt、json、csv等，另一类是保存到数据库，例如MySQL、MongoDB、Redis等。接下来就来学习这些方法吧~

准备工作

    学习数据存储前我们需要先爬取数据，这里我就不再编写这部分代码了，直接用前面爬取豆瓣的代码演示，不明白的回去看我前面的博客哦

保存为文本形式

文件打开方式

tip: 这里列举一下文件保存的一个参数

参数	含义
r	只读方式打开（默认这种方式）
rb	以二进制只读打开（用于音频、图片、视频）
r+	以读写方式打开文件
rb+	以二进制读写打开
w	以写入方式打开文件（文件存在则覆盖，不存在就新建）
wb	以二进制写入方式写入（文件存在则覆盖，不存在就新建）
w+	以读写方式打开文件 （文件存在则覆盖，不存在就新建）
wb+	以二进制读写方式打开文件 （文件存在则覆盖，不存在就新建）
a	以追加方式打开文件
ab	以二进制追加方式打开文件
a+	以读写方式打开文件
ab+	以二进制追加打开文件

保存为txt文本

    这应该是爬虫数据保存最简单的一种方式了，直接看代码，这里为了方便我将所有的数据保存都定义为函数，调用对应的函数实现保存即可。

# 第一种写法：
# 这种方式需要定义file等于
def save_txt_2(mystr):
    file = open('../Include/电影-1.txt', 'a', encoding='utf-8')
    file.write(mystr+'\n')
    file.close()

# 第二种写法：
# 这种方法对一种方法进行了简化，一般都会使用这种方式
# 保存数据为txt（简写的方式）
def save_txt_1(mystr):
    with open('../Include/电影.txt', 'a', encoding='utf-8') as file:
        file.write(f'{mystr}\n')

保存为JSON

    json作为一种很常见的数据存储格式，通常以一个大括号包裹着键值对的形式，例如下面的这个数据

{'name':'张三', 'age':18, 'sex':'男'}

# 数据存储为json
def save_json(data):
    with open('../Include/电影.json', 'a', encoding='utf-8') as file:
        file.write(f'{data}\n')

保存为CSV

    逗号分隔值（Comma-Separated Values，CSV，有时也称为字符分隔值，因为分隔字符也可以不是逗号），其文件以纯文本形式存储表格数据（数字和文本）。纯文本意味着该文件是一个字符序列，不含必须像二进制数字那样被解读的数据。CSV文件由任意数目的记录组成，记录间以某种换行符分隔；每条记录由字段组成，字段间的分隔符是其它字符或字符串，最常见的是逗号或制表符。
    因为爬虫里面我们通常会以字典的形式保存数据，所以这里我就演示如何将字典数据存储为csv文件。

# 数据存储为csv
def save_csv(data):
    with open('../Include/电影.csv', 'a', encoding='utf-8') as file:
        # 注意这里的fieldnames里的字段必须和你要存储的字典里的键对应，否则会报错
        fieldnames = ['电影名称：', '导演与演员：', '电影评分：', '评价人数：', '电影总结：']
        writer = csv.DictWriter(file, fieldnames=fieldnames)
        writer.writerow(data)

保存到数据库

保存到MySQL

    MySQL作为一种开源关系型数据深受开发者的喜欢，在爬虫数据存储的过程中我们也经常使用。
    与前面存储为文本形式不同，存储到数据库时我们通常需要先连接数据库，然后才能执行存储操作，这里我事先在mysql里面见一个名为movies的数据库和一张名为movie的数据表。

# 数据存储到MySQL
def save_mysql(data):
    # 建立连接
    db = pymysql.connect(host='127.0.0.1', user='root', password='123456', port=3306, db='movies')

    # 建立游标
    cursor = db.cursor()

    # sql语句
    sql = "insert into movice(mname,director,score,allcount,summary) values (%s,%s,%s,%s,%s) "
    # 操作
    data = (data['电影名称：'], data['导演与演员：'], data['电影评分：'], data['评价人数：'], data['电影总结：'])
    try:
        cursor.execute(sql,data)
        db.commit()
    except Exception as e:
        print('插入数据失败', e)
        db.rollback()  # 回滚
    # 关闭游标
    cursor.close()
    # 关闭连接
    db.close()

保存到MongoDB

    MongoDB是一个基于分布式文件存储的数据库。由C++语言编写。旨在为WEB应用提供可扩展的高性能数据存储解决方案。
    MongoDB是一个介于关系数据库和非关系数据库之间的产品，是非关系数据库当中功能最丰富，最像关系数据库的。它支持的数据结构非常松散，是类似json的bson格式，因此可以存储比较复杂的数据类型。Mongo最大的特点是它支持的查询语言非常强大，其语法有点类似于面向对象的查询语言，几乎可以实现类似关系数据库单表查询的绝大部分功能，而且还支持对数据建立索引。
    和上面连接数据库一样，我们存储数据之前需要先连接数据库，然后执行对应的数据库语句才能完成操作。

# 数据存储到MongoDB
def save_mongo(data):
    # 创建数据库连接
    client = pymongo.MongoClient(host='localhost', port=27017)
    # 指定数据库
    db = client.movies
    # 指定集合
    collection = db.movie
    # 执行操作
    result = collection.insert_one(data)
    print(result)

保存到Redis

    Redis（Remote Dictionary Server )，即远程字典服务，是一个开源的使用ANSI C语言编写、支持网络、可基于内存亦可持久化的日志型、Key-Value数据库，并提供多种语言的API。Redis 是一个高性能的key-value数据库。 redis的出现，很大程度补偿了memcached这类key/value存储的不足，在部 分场合可以对关系数据库起到很好的补充作用。

# 数据存储到Redis
def save_redis(data):
    r = redis.Redis(host='localhost', port=6379, db=1, decode_responses=True, password='123456')
    r.hset('movies', data['电影名称：'], json.dumps(data))

# 读取Redis数据
def read_redis():
    r = redis.Redis(host='localhost', port=6379, db=1, decode_responses=True, password='123456')
    for k in r.hkeys('movies'):
        d = r.hget('movies', k)
        print(json.loads(d))

总结

    通过上面的介绍我们基本上已经学会了爬虫数据存储的大多数方式，这些方式也是我们实际生产过程中经常使用的。有人会说还有很多其他类型的文件，比如表格的xlsx格式等等。。。但用过的应该都知道，其实他和csv等存储方式都是一样的，我们只需要做很小的修改就可以实现了。
    今天就先到这里了，下一期我将带领大家使用我们存储的数据进行简单的数据分析以及数据可视化。
    冲冲冲！！！！

author： KK
time ：2021年12月13日12:05:45
flag：10/30