JSON ( JavaScript Object Notation )是一种轻量级的数据交换格式,因为它良好的可读性与易于机器进行解析和生成等特性,在当前的数据整理和收集中得到了广泛的应用。
JSON 和 XML 相比较可谓不相上下。
Python 2.X 中自带了 JSON 模块,直接 import json 就可以使用了。
JSON
json 简单来说就是 JavaScript 中的对象和数组,所以这两种结构就是对象和数组两种结构,通过这两种结构可以表示各种复杂的结构。
对象:对象在 js 中表示为{ }括起来的内容,数据结构为{key1: value1, key2:value2, ...}的键值对的结构,在面向对象的语言中,key 为对象的属性,value 为对应的属性值,所以很容易理解,取值方法为 对象.key 获取属性值,这个属性值的类型可以是数字、字符串、数组、对象。
数组:数组在 js 中是[ ]括起来的内容,数据结构为['Python', ‘ JavaScript', 'C++', ...],取值方式和所有语言一样,使用索引获取,字段值的类型可以是数字、字符串、数组、对象。
json 模块
json 模块提供了四个功能:dumps、dump、loads、load,用于字符串和 Python 数据类型间进行转换。
1.json.dumps()
实现 Python 类型转化为 Json 字符串,返回一个 str 对象,从 Python 到 Json 的类型转换对照如下:
-- conding:utf-8 --
import json
listStr = [1, 2, 3, 4]
tupleStr = (1, 2, 3, 4)
dictStr = {"city": "北京", "name": "蚂蚁"}
print(json.dumps(listStr))
[1, 2, 3, 4]
print(type(json.dumps(listStr)))
print(json.dumps(tupleStr))
[1, 2, 3, 4]
print(type(json.dumps(tupleStr)))
注意:json.dumps() 序列化时默认使用的 ascii 编码
添加参数 ensure_ascii=False 禁用 ascii 编码,按 utf-8 编码
print(json.dumps(dictStr, ensure_ascii = False))
{"city": "北京", "name": "蚂蚁"}
print(type(json.dumps(dictStr, ensure_ascii = False)))
2.json.dump()
将 Python 内置类型序列化为 Json 对象后写入文件
-- conding:utf-8 --
import json
listStr = [{"city": "北京"}, {"name": "蚂蚁"}]
json.dump(listStr, open("listStr.json", "w", encoding = "utf-8"), ensure_ascii = False)
dictStr = {"city": "北京", "name": "蚂蚁"}
json.dump(dictStr, open("dictStr.json", "w", encoding = "utf-8"), ensure_ascii = False)
3.json.loads()
把 Json 格式字符串解码转换成 Python 对象,从 Json 到 Python 的类型转换对照如下:
-- conding:utf-8 --
import json
strList = '[1, 2, 3, 4]'
strDict = '{"city": "北京", "name": "蚂蚁"}'
print(json.loads(strList))
[1, 2, 3, 4]
json 数据自动按 utf-8 存储
print(json.loads(strDict))
{'city': '北京', 'name': '蚂蚁'}
4.json.load()
读取文件中 Json 形式的字符串,转换成 Python 类型
-- conding:utf-8 --
import json
strList = json.load(open("listStr.json", "r", encoding = "utf-8"))
print(strList)
[{'city': '北京'}, {'name': '蚂蚁'}]
strDict = json.load(open("dictStr.json", "r", encoding = "utf-8"))
print(strDict)
{'city': '北京', 'name': '蚂蚁'}
JsonPath
JsonPath 是一种信息抽取类库,是从 JSON 文档中抽取指定信息的工具,提供多种语言实现版本,包括:JavaScript、Python、PHP 和 Java。
JsonPath 对于 JSON 来说,相当于 XPATH 对于 XML。
JsonPath 结构清晰,可读性高,复杂度低,非常容易匹配,下表中对应了 XPath 的用法。
示例:
-- conding:utf-8 --
import urllib.request
import json
import jsonpath
拉勾网城市 JSON 文件
User-Agent 头
header = {'User-Agent':'Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/39.0.2171.71 Safari/537.36'}
url 连同 headers,一起构造 Request 请求,这个请求将附带 chrome 浏览器的 User-Agent
request = urllib.request.Request(url, headers = header)
向服务器发送这个请求
response = urllib.request.urlopen(request)
获取页面内容:bytes
html = response.read()
转码:bytes 转 str
html = html.decode("utf-8")
把 json 格式字符串转换成 python 对象
obj = json.loads(html)
从根节点开始,匹配 name 节点
city_list = jsonpath.jsonpath(obj, '$..name')
打印获取的 name 节点
print(city_list)
打印其类型
print(type(city_list))
写入本地磁盘文件
with open("city.json", "w", encoding = "utf-8") as f:
content = json.dumps(city_list, ensure_ascii = False)
f.write(content)