java中dataset设置大小_spark通用数据帧到dataSet类型参数边界

Spark内部代表 DataFrame 为 Dataset[Row] . 现在我必须输入:

SparkDatasetProvider[T <: product c baseconfiguration>

SparkDataFrameProvider[C <: baseconfiguration>

extends SparkDatasetProvider[Row, C]

即我想确保支持 Dataset[T] 和常规 Row 的案例类 . 我该如何解决:

type arguments [org.apache.spark.sql.Row,C] do not conform to trait SparkDatasetProvider's type parameter bounds

因为我不知道一个结合 Row 和常规 case classes 的超类 .

编辑

trait SparkDatasetProvider[T <: encoder>

def provide(spark: SparkSession): Dataset[T]

}

trait SparkDataFrameProvider extends SparkDatasetProvider[Row, C] {

override def provide(spark: SparkSession): DataFrame

}

object FooProvider extends SparkDataFrameProvider{

override def provide(spark: SparkSession): DataFrame = null

}

final case class FooFeed(foo:Int, bar:String)

object FooProviderC extends SparkDatasetProvider[FooFeed]{

override def provide(spark: SparkSession): Dataset[FooFeed] = null

}

type parameter bounds [T <: org.apache.spark.sql.encoder>

object FooProviderC extends SparkDatasetProvider[FooFeed]{

根据这个建议 - 然而,我无法让它发挥作用 .

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值