spark处理嵌套json

最新推荐文章于 2024-07-25 10:54:12 发布

yuan.jin

最新推荐文章于 2024-07-25 10:54:12 发布

阅读量3.1k

点赞数 1

分类专栏： spark 文章标签： spark json 嵌套json

本文链接：https://blog.csdn.net/u013215956/article/details/86232425

版权

本文介绍如何利用Spark处理包含嵌套结构的JSON文件。示例数据包括多个JSON对象，每个都有`avg_orders_count`字段，其中包含了多天的订单数量统计。通过Spark读取这些JSON文件，数据将被正确展开，便于进行进一步的数据分析和操作。

摘要由CSDN通过智能技术生成

json文件数据如下：
{“avg_orders_count”: [{“count”: 1.0, “days”: 3}, {“count”: 0.6, “days”: 5}, {“count”: 0.3, “days”: 10}, {“count”: 0.2, “days”: 15}, {“count”: 0.1, “days”: 30}, {“count”: 0.066, “days”: 45}, {“count”: 0.066, “days”: 60}, {“count”: 0.053, “days”: 75}, {“count”: 0.044, “days”: 90}], “m_hotel_id”: “92500636”}
{“avg_orders_count”: [{“count”: 0.666, “days”: 3}, {“count”: 0.4, “days”: 5}, {“count”: 0.4, “days”: 10}, {“count”: 0.266, “days”: 15}, {“count”: 0.33, “days”: 30}, {“count”: 0.466, “days”: 45}, {“count”: 0.583, “days”: 60}, {“count”: 0.68, “days”: 75}, {“count”: 0.6111, “days”: 90}], “m_hotel_id”: “92409831”}
spark读json文件：

from pyspark.sql import SparkSession, Row, functions
session = SparkSession.builder.appName("sort").getOrCreate()
data = session.read.json('test1')
data.head()