java操作kudu及sparksql

这篇博客记录了作者初次接触大数据项目时使用Kudu和Hadoop的经验,主要涵盖了如何在Java中添加POM依赖,使用KuduClient进行CRUD操作,以及如何利用SparkSQL查询Kudu数据。由于官方文档主要提供Scala版本,作者通过查看源码找到了Java版SparkSQL查询的方法,指出通过指定format和包路径可以实现Spark对其他库的访问。
摘要由CSDN通过智能技术生成

首次接触大数据项目,用到了kudu及hadoop,为防忘记故写篇笔记以作参考

1)pom依赖

  <!-- https://mvnrepository.com/artifact/org.apache.kudu/kudu-client -->
        <dependency>
            <groupId>org.apache.kudu</groupId>
            <artifactId>kudu-client</artifactId>
            <version>1.5.0-cdh5.13.1</version>
            <scope>test</scope>
        </dependency>

        <!-- https://mvnrepository.com/artifact/org.apache.kudu/kudu-client-tools -->
        <dependency>
            <groupId>org.apache.kudu</groupId>
            <artifactId>kudu-client-tools</artifactId>
            <version>1.5.0-cdh5.13.1</version>
        </dependency>

        <!-- https://mvnrepository.com/artifact/org.apache.kudu/kudu-spark2 -->
        <dependency>
            <groupId>org.apache.kudu</groupId>
            <artifactId>kudu-spark2_2.11</artifactId>
            <version>1.6.0</version>
        </dependency>

本文用的是cloudera版本,添加:

 <repositories>
        <repository>
            <id>cloudera</id>
            <url>https://repository.cloudera.com/artifactory/cloudera-repos/</url>
        </repository>
    </repositories>

2)功能列表:

  • 使用kuduClient创建表;
  • 使用kuduClient添加数据;
  • 使用kuduClient更新数据;
  • 使用kuduClient查询数据;
  • 使用kuduClient删除表;
  • 使用sparksql查询数据;
  • 使用spark—kuduContext判断表存在

ps:sparksql查询数据在cloudera官网只有scala版本。google也难找到java版的具体写法。查看源码,实际上通过format来指定包路径,制定的路径下包含实现

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值