【pyspark】三 TypeError: Can not infer schema for type: type ‘str‘ 问题

环境 spark 2.3.1 zeppelin中%pyspark   python 2.7

TypeError: Can not infer schema for type: <type 'str'>
多个rdd union之后,toDF().write.csv(path)出现如上异常

即不能推断出类型。测试toDF().show()也不行

后发现是多个rdd间,列数不一致,导致toDF()失败
比如:

resultRDD=sc.parallelize(["colName1","colName2","colName3","colName4"])
resultRDD=resultRDD.uinon(sc.parallelize([("value1","value2","value3","value4")]))
resultRDD.toDF().show()

就会出现:TypeError: Can not infer schema for type: <type ‘str’>
因为前一个忘了括号,导致第一个rdd是四行一列。
RDD的union和DataFrame不一样,不那么严格,随便什么数据都能union。
所以比较容易出现这种错误,需要仔细检查列数是否对上,然后类型是否能对上。

即注意RDD.union()是不严格的,toDF(*colName)前要保证列数和类型对应上
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
PySpark 中,当你尝试从一个结构化数据源中读取数据时,如果你没有为数据源指定 schemaPySpark 就会尝试自动推断数据的 schema。但是,如果数据中包含无法推断类型的数据,例如字符串类型的数据,PySpark 就会抛出 "TypeError: Can not infer schema for type: <class 'str'>" 错误。 为了解决这个问题,你可以手动为数据源指定 schema,或者使用 PySparkinferSchema() 函数。inferSchema() 函数可以自动推断数据的 schema,并将字符串类型的数据转换为字符串类型。你可以按照以下步骤使用 inferSchema() 函数: 1. 从数据源中读取数据,将数据存储在一个 RDD 中。 2. 使用 map() 函数将 RDD 中的每一行转换为一个 Row 对象。 3. 使用 inferSchema() 函数将 RDD 转换为 DataFrame,并指定 DataFrame 中每一列的名称。 以下是一个示例代码,演示了如何使用 inferSchema() 函数: ``` from pyspark.sql import SparkSession from pyspark.sql.types import StructType, StructField, StringType # 创建一个 SparkSession spark = SparkSession.builder.appName("InferSchemaExample").getOrCreate() # 从数据源中读取数据 rdd = spark.sparkContext.textFile("path/to/data") # 将 RDD 中的每一行转换为一个 Row 对象 row_rdd = rdd.map(lambda line: line.split(",")).map(lambda x: Row(col1=x[0], col2=x[1])) # 定义 DataFrame 的 schema schema = StructType([StructField("col1", StringType(), True), StructField("col2", StringType(), True)]) # 使用 inferSchema() 函数将 RDD 转换为 DataFrame,并指定 DataFrame 中每一列的名称 df = spark.createDataFrame(row_rdd, schema=schema) # 显示 DataFrame 的内容 df.show() ``` 在这个示例中,我们首先从数据源中读取数据,并将数据存储在一个 RDD 中。接下来,我们使用 map() 函数将 RDD 中的每一行转换为一个 Row 对象。然后,我们定义了 DataFrame 的 schema,并使用 inferSchema() 函数将 RDD 转换为 DataFrame,并指定 DataFrame 中每一列的名称。最后,我们显示了 DataFrame 的内容。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值