前言:鉴于以后的工作会经常使用pyspark,因此对pyspark官方API中比较常用的一些模块进行翻译,顺便训练一下自己的英文阅读能力.
模块概要
导入Spark SQL和Dataframes中的各个类
pyspark.sql.SparkSession ——– DataFrame 和SQL功能的入口 查看翻译
pyspark.sql.DataFrame ——– 指定列组成的分布式数据集 查看翻译
pyspark.sql.Column ——– DataFrame中的列 查看翻译
pyspark.sql.Row ——– DataFrame中的行
pyspark.sql.GroupedData ——– 聚合后的数据,及一个groupby()后的对象
pyspark.sql.DataFrameNaFunctions ——– 处理空值所用到的函数
pyspark.sql.DataFrameStatFunctions ——– 统计相关的函数
pyspark.sql.functions ——– DataFrame 的一系列内建函数
pyspark.sql.types ——– DataFrame 中值的类型
pyspark.sql.Window ——–窗口函数