flink安装以及sql连接hive

官网下载flink

根据官方文档进行安装

flink运行wordCount

代码在https://ci.apache.org/projects/flink/flink-docs-release-1.10/getting-started/tutorials/local_setup.html 官方教程

    public static void main(String[] args) throws Exception {

        // the port to connect to
        int port;
        try {
            final ParameterTool params = ParameterTool.fromArgs(args);
            port = params.getInt("port");
        } catch (Exception e) {
            System.err.println("No port specified. Please run 'SocketWindowWordCount --port <port>'");
            port = 19090;
            //注释return,让其没有port的时候默认19090;
//            return;
        }
windows版本

打开cmd 输入命令 nc -l -p 19000

linux版本

输入 nc -l 19000
注:先运行nc监听,再运行java程序。

flink连接hive

1.修改配置文件/flink-1.9.2/conf/sql-client-defaults.yaml

需要复制修改,不可在原基础上改

catalogs:
# catalogs 名称
  - name: myhive
# catalog连接类型
    type: hive
# hive 安装路径下conf目录路径
    hive-conf-dir: /usr/local/hive-1.2.1/conf
# hive 版本号
    hive-version: 1.2.1
    property-version: 1
# use catalog 后 默认连接的数据库名
    default-database: hj

flink连接hive官方参考文档
flinkjar包下载

https://repo.maven.apache.org/maven2/org/apache/flink/flink-shaded-hadoop-2-uber/2.8.3-9.0/

  1. Jar包准备
    在{flink-home}/lib目录下放入以下jar包:
    hive-2.1.0-bin/lib/hive-exec-2.1.0.jar
    {flink-compile-home}/flink-connectors/flink-connector-hive/target/flink-connector-hive_2.11-1.11-SNAPSHOT.jar
    {flink-shaded-9.0-compile-home}/…/flink-shaded-hadoop-2-uber-3.0.0-cdh6.1.0-9.0.jar

版本要正确

参考博客
以下为依赖列表
在这里插入图片描述效果
在这里插入图片描述

博主公众号
求关注
在这里插入图片描述

要在Flink SQL连接并读取Hive表,您可以使用Hive catalog或Flink JDBC连接器的方法。 使用Hive catalog的方法如下: 1. 首先,您需要在Flink SQL Stream Builder中注册Hive catalog。这可以通过在Flink SQL CLI或Flink SQL客户端中执行相应的DDL语句来完成。\[3\] 2. 注册完成后,您可以在Flink SQL中使用Hive表。您可以通过在SQL查询中使用类似于"SELECT * FROM hive_table"的语句来读取Hive表的数据。\[1\] 使用Flink JDBC连接器的方法如下: 1. 首先,您需要确保Hive表的数据可以通过JDBC连接器访问。这可以通过在Flink的配置文件中配置Hive JDBC连接器的相关信息来实现。\[2\] 2. 配置完成后,您可以在Flink SQL中使用JDBC连接器来读取Hive表。您可以通过在SQL查询中使用类似于"SELECT * FROM jdbc_table"的语句来读取Hive表的数据。 无论您选择使用Hive catalog还是JDBC连接器,都可以在Flink SQL连接并读取Hive表的数据。具体选择取决于您的需求和环境。 #### 引用[.reference_title] - *1* *2* *3* [通过 Flink SQL 使用 Hive 表丰富流](https://blog.csdn.net/wang_x_f911/article/details/127980900)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v91^control_2,239^v3^insert_chatgpt"}} ] [.reference_item] [ .reference_list ]
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值