flink实战—安装与使用

概述

flink分为三种模式运行：local，cluster，基于cloud的运行。

本文描述了flink在local模式下的安装与使用。

环境介绍

• 系统

Centos-7.0 x64

安装

下载并安装

• 首先下载并安装java

$ java -version
java version "1.8.0_92"
Java(TM) SE Runtime Environment (build 1.8.0_92-b14)
Java HotSpot(TM) 64-Bit Server VM (build 25.92-b14, mixed mode)

• 下载flink

从以下链接下载flink相关版本，如下：

http://mirrors.hust.edu.cn/apache/flink/flink-1.7.1/flink-1.7.1-bin-hadoop28-scala_2.11.tgz

• 解压并启动

$ tar xzvf flink-1.7.1-bin-hadoop28-scala_2.11.tgz
$ cd flink-1.7.1/
$ ./bin/start-cluster.sh 
Starting cluster.
Starting standalonesession daemon on host firstvm.
Starting taskexecutor daemon on host firstvm.

• 查看启动日志

在flink-1.7.1的log目录下查看启动日志文件：

$ cat flink-*-standalonesession-1-*.log

• 任务执行日志文件

另外要说明的是flink的任务执行文件在以下文件中：

log/flink-*-taskexecutor-1-*.out

查看管理界面

按以上命令启动flink时，可以查看flink自带的管理界面。

• 关闭防火墙

$ sudo systemctl stop firewall

• 查看管理界面

在浏览器中输入以下地址：

http://192.168.1.106:8081/#/overview

即可看到flink的启动界面。

运行测试程序

开启本地服务器

开启一个新的终端，并输入命令：

$ nc -l 9001

提交Flink计划

$ ./bin/flink run examples/streaming/SocketWindowWordCount.jar --port 9001

让flink任务程序连接到服务器端口并等待输入。您可以检查Web界面以验证作业是否按预期运行：

输入测试文本

在nc -l 9001的终端中输入一下文字：

this is a test
test is ok

查看计算结果

cd log
$ cat flink-*-taskexecutor-1-*.out
this : 1
ok : 1
test : 2
a : 1
is : 2

可以看到该任务执行成功了。

单词计数的源代码

public class SocketWindowWordCount {

    public static void main(String[] args) throws Exception {

        // the port to connect to
        final int port;
        try {
            final ParameterTool params = ParameterTool.fromArgs(args);
            port = params.getInt("port");
        } catch (Exception e) {
            System.err.println("No port specified. Please run 'SocketWindowWordCount --port <port>'");
            return;
        }

        // get the execution environment
        final StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment();

        // get input data by connecting to the socket
        DataStream<String> text = env.socketTextStream("localhost", port, "\n");

        // parse the data, group it, window it, and aggregate the counts
        DataStream<WordWithCount> windowCounts = text
            .flatMap(new FlatMapFunction<String, WordWithCount>() {
                @Override
                public void flatMap(String value, Collector<WordWithCount> out) {
                    for (String word : value.split("\\s")) {
                        out.collect(new WordWithCount(word, 1L));
                    }
                }
            })
            .keyBy("word")
            .timeWindow(Time.seconds(5), Time.seconds(1))
            .reduce(new ReduceFunction<WordWithCount>() {
                @Override
                public WordWithCount reduce(WordWithCount a, WordWithCount b) {
                    return new WordWithCount(a.word, a.count + b.count);
                }
            });

        // print the results with a single thread, rather than in parallel
        windowCounts.print().setParallelism(1);

        env.execute("Socket Window WordCount");
    }

    // Data type for words with count
    public static class WordWithCount {

        public String word;
        public long count;

        public WordWithCount() {}

        public WordWithCount(String word, long count) {
            this.word = word;
            this.count = count;
        }

        @Override
        public String toString() {
            return word + " : " + count;
        }
    }
}

总结

本文讲述了flink的local模式的安装与使用。可以看到，flink的安装和使用还是相当方便的。