flink读取csv文件

flink学习 专栏收录该内容
12 篇文章 0 订阅
    1. 所需依赖
    <dependency>
      <groupId>org.apache.flink</groupId>
      <artifactId>flink-table</artifactId>
      <version>1.9.0</version>
    </dependency>
    <!-- https://mvnrepository.com/artifact/org.apache.flink/flink-table-api-java-bridge -->
    <dependency>
      <groupId>org.apache.flink</groupId>
      <artifactId>flink-table-api-java-bridge_2.11</artifactId>
      <version>1.9.0</version>
    </dependency>
    <dependency>
      <groupId>org.apache.flink</groupId>
      <artifactId>flink-table-planner_2.11</artifactId>
      <version>1.9.0</version>
      <scope>provided</scope>
    </dependency>
  • 2.flink读取csv文件,并使用table api创建逻辑表,使用sql进行操作
/**
 * 读取csv文件  并使用table api创建逻辑表  进行查询
 */
public class CsvSource {
    public static void main(String[] args) throws Exception {
        ExecutionEnvironment env = ExecutionEnvironment.getExecutionEnvironment();
        DataSet<Student> csvInput = env.readCsvFile("C:\\Users\\Lenovo\\Desktop\\test.csv")
                //设置要读取的属性列   1为读   0为不读
                .includeFields("10010")
                //忽略第一行  (忽略表头)
                .ignoreFirstLine()
                //指定对应的实体类型                 //指定对应的属性名
                .pojoType(Student.class,"name","score");
        //使用table api创建逻辑表
        BatchTableEnvironment tableEnv = BatchTableEnvironment.create(env);
        Table table = tableEnv.fromDataSet(csvInput);
        tableEnv.registerTable("test_flink",table);
        //执行sql查询
        Table result = tableEnv.sqlQuery("select * from test_flink where name = 'suns1'");
        //输出结果
        DataSet<Student> doubleDataSet = tableEnv.toDataSet(result, Student.class);
        doubleDataSet.print();
    }
  • 0
    点赞
  • 0
    评论
  • 6
    收藏
  • 一键三连
    一键三连
  • 扫一扫,分享海报

©️2021 CSDN 皮肤主题: 大白 设计师:CSDN官方博客 返回首页
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、C币套餐、付费专栏及课程。

余额充值