3-数据存储之文件存储(1)

本节内容：

• 简介

  ------------------文件存储------------------

• TXT文本存储

• JSON文件存储

• CSV文件存储

  ------------------关系型数据库---------------

• MySQL存储

  ------------------非关系数据库---------------

• Mongodb

• redis

一 简单介绍：

我们前面很少将提取的数据或者获取的源码保存下来；其实日常的工作中在解析出数据后接下来就是存储数据。

保存数据的形式有多种多样txt\json\csv\mysql\mobgodb\redis，接下来我们一一介绍。

1). txt文本存储：

python txt文件操作中离不开open()函数,它可以创建或者打开指定的文件，并创建一个文件对象 ，基本的语法：

open() 函数用于创建或打开指定文件，该函数的语法格式如下：
file = open(file_name,"文件打开方式")

文件打开的方式有以下几种：

模式	意义	注意事项
r	只读模式打开文件，读文件内容的指针会放在文件的开头。	操作的文件必须存在。
rb	以二进制格式、采用只读模式打开文件，读文件内容的指针位于文件的开头，一般用于非文本文件，如图片文件、音频文件等。
r+	打开文件后，既可以从头读取文件内容，也可以从开头向文件中写入新的内容，写入的新内容会覆盖文件中等长度的原有内容。
rb+	以二进制格式、采用读写模式打开文件，读写文件的指针会放在文件的开头，通常针对非文本文件（如音频文件）。
w	以只写模式打开文件，若该文件存在，打开时会清空文件中原有的内容。	若文件存在，会清空其原有内容（覆盖文件）；反之，则创建新文件。
wb	以二进制格式、只写模式打开文件，一般用于非文本文件（如音频文件）
w+	打开文件后，会对原有内容进行清空，并对该文件有读写权限。
wb+	以二进制格式、读写模式打开文件，一般用于非文本文件
a	以追加模式打开一个文件，对文件只有写入权限，如果文件已经存在，文件指针将放在文件的末尾（即新写入内容会位于已有内容之后）；反之，则会创建新文件。
ab	以二进制格式打开文件，并采用追加模式，对文件只有写权限。如果该文件已存在，文件指针位于文件末尾（新写入文件会位于已有内容之后）；反之，则创建新文件。
a+	以读写模式打开文件；如果文件存在，文件指针放在文件的末尾（新写入文件会位于已有内容之后）；反之，则创建新文件。
ab+	以二进制模式打开文件，并采用追加模式，对文件具有读写权限，如果文件存在，则文件指针位于文件的末尾（新写入文件会位于已有内容之后）；反之，则创建新文件。

熟悉/了解上面的知识点后(详细信息：菜鸟教程/w3school)，我们实例一下；

小说网站：https://xs.sogou.com/mianfei/ 获取书名、简洁并保存为txt文件：

import requests
import json
#设置ua
headers = {
    "User-Agent": "Mozilla/5.0 (Windows NT 10.0; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/79.0.3941.4 Safari/537.36",
}
#获取网页源代码
r = requests.get("https://xs.sogou.com/api/pc/v1/activity/freeread/current?pageNo=1&pageSize=12",headers=headers).text
#json格式一下
html = json.loads(r)
#接下来就是获取数据
name = html["data"]["pageList"]
for i in name:
    bookName = i["bookName"]
    content = i["description"]
    #写入数据
    with open("小说.txt","a",encoding="utf-8") as f:
        f.write(bookName)
        f.write(content)
        f.write("\n"+ "==" * 20 + "\n")
        print("已写入......")
以with as的方式实现数据存储好处：不需要调用close()方法
以上写入还可以使用：
    file = open("小说.txt","a",encoding="utf-8")
    file.write(bookName)
    file.write(content)
	file.write("\n"+ "==" * 20 + "\n")
    print("已写入......")
最后结果都是一样的

注：有细心的同学发现我用的url跟网站的url是不一样的，这个是怎么回事？？

原来使用requests请求的出来的数据没有小说的信息(数据)，抓包发现该网站是通过Ajax技术实现数据的请求，所以我找到 了该网站的API，如图所示：

这样我们直接请求这个网址后得到的就是一个json的数据文件，之后我们解析一下就可以了。

2). JSON文件存储:

先官方话了解一下： JSON(JavaScript Object Notation) 是一种轻量级的数据交换格式。它基于ECMAScript的一个子集。

JSON采用完全独立于语言的文本格式，但是也使用了类似于C语言家族的习惯(包括C、C++、Java、JavaScript、Perl、Python等)。

这些特性使JSON成为理想的数据交换语言。易于人阅读和编写，同时也易于机器解析和生成(一般用于提升网络传输速率)。

你读一遍的话会懵逼的，不要慌，你暂时不要管，学习它常用的：

json: 用于字符串和python数据类型间进行转换 ，它提供四个功能 dumps、dump、loads、load ，用的比较多的是(loads,dumps)下面我们学习下。

loads():将JSON文本字符串转换成JSON对象；

dumps():将JSON对象转换成JSON文本字符串；

#在我们上面的小说例子中，我们使用的就是loads()
import json

test_dict = {'bigberg': [7600, {1: [['iPhone', 6300], ['Bike', 800], ['shirt', 300]]}]}
print(test_dict)
print(type(test_dict))
#dumps 将数据转换成字符串
json_str = json.dumps(test_dict)
print(json_str)
print(type(json_str))
#loads: 将字符串转换为字典
new_dict = json.loads(json_str)
print(new_dict)
print(type(new_dict))

dump: 将数据写入json文件中 ; load:把文件打开，并把字符串变换为数据类型 ;有兴趣的同学可以学习一下用法。

3). CSV文件存储：

使用csv文件存储，我理解的就是表格存储，Excel都用过吧，就是那个;接下来我们分文件的写入跟读取两部分分开讲解，请系好安全带(如果非要介绍定义的话，请百度…我就是懒)；

简单写入，首先打开一个csv文件，指定打开的模式然后使用write()方法初始化写入对象，最后调用writerow()方法传入每行的数据即可，代码如下：

import csv
#如果不加newline参数的话，会自动这只每行换行，如下图所示
#加上以后就不会出现下图的问题，小技巧，你值得拥有
with open("name.csv","w",newline="") as f:
    writer = csv.writer(f)
    #传入的是一个列表
    writer.writerow(["num","name","age","sex"])
    writer.writerow(["100","你",12,"男"])
    writer.writerow(["101","好",13,"女"])

效果图如下：

可以看到还有排版的问题，更多的功能等你发掘；

简单读取：我们需要构造reader对象，通过遍历的方式输出每行的信息；代码及效果图如下：

import csv 

with open("name.csv",'r') as f:
    reader = csv.reader(f)
    for i in reader:
        print(i)

#接触到pandas的话你会了解到read_csv()方法：
import pandas as pd
df = read_csv("name.csv")
print(df)
这个要比第一个方式舒服很多。。。。。

未完待续…