flink实战—安装与使用

2019独角兽企业重金招聘Python工程师标准>>>

flink分为三种模式运行：local，cluster，基于cloud的运行。

本文描述了flink在local模式下的安装与使用。

环境介绍
系统
Centos-7.0 x64

安装
下载并安装
首先下载并安装java
$ java -version
java version "1.8.0_92"
Java(TM) SE Runtime Environment (build 1.8.0_92-b14)
Java HotSpot(TM) 64-Bit Server VM (build 25.92-b14, mixed mode)
1
2
3
4
下载flink
从以下链接下载flink相关版本，如下：

http://mirrors.hust.edu.cn/apache/flink/flink-1.7.1/flink-1.7.1-bin-hadoop28-scala_2.11.tgz

解压并启动
$ tar xzvf flink-1.7.1-bin-hadoop28-scala_2.11.tgz
$ cd flink-1.7.1/
$ ./bin/start-cluster.sh 
Starting cluster.
Starting standalonesession daemon on host firstvm.
Starting taskexecutor daemon on host firstvm.

查看启动日志
在flink-1.7.1的log目录下查看启动日志文件：

$ cat flink-*-standalonesession-1-*.log
1
任务执行日志文件
另外要说明的是flink的任务执行文件在以下文件中：

log/flink-*-taskexecutor-1-*.out

查看管理界面
按以上命令启动flink时，可以查看flink自带的管理界面。

关闭防火墙
$ sudo systemctl stop firewall

查看管理界面
在浏览器中输入以下地址：

http://192.168.1.106:8081/#/overview
1
即可看到flink的启动界面。

运行测试程序
开启本地服务器
开启一个新的终端，并输入命令：

$ nc -l 9001
1
提交Flink计划
$ ./bin/flink run examples/streaming/SocketWindowWordCount.jar --port 9001
1
让flink任务程序连接到服务器端口并等待输入。您可以检查Web界面以验证作业是否按预期运行：

 
输入测试文本
在nc -l 9001的终端中输入一下文字：

this is a test
test is ok
1
2
查看计算结果
cd log
$ cat flink-*-taskexecutor-1-*.out
this : 1
ok : 1
test : 2
a : 1
is : 2


可以看到该任务执行成功了。

单词计数的源代码
public class SocketWindowWordCount {

    public static void main(String[] args) throws Exception {

        // the port to connect to
        final int port;
        try {
            final ParameterTool params = ParameterTool.fromArgs(args);
            port = params.getInt("port");
        } catch (Exception e) {
            System.err.println("No port specified. Please run 'SocketWindowWordCount --port <port>'");
            return;
        }

        // get the execution environment
        final StreamExecutionEnvironment env = StreamExecutionEnvironment.getExecutionEnvironment();

        // get input data by connecting to the socket
        DataStream<String> text = env.socketTextStream("localhost", port, "\n");

        // parse the data, group it, window it, and aggregate the counts
        DataStream<WordWithCount> windowCounts = text
            .flatMap(new FlatMapFunction<String, WordWithCount>() {
                @Override
                public void flatMap(String value, Collector<WordWithCount> out) {
                    for (String word : value.split("\\s")) {
                        out.collect(new WordWithCount(word, 1L));
                    }
                }
            })
            .keyBy("word")
            .timeWindow(Time.seconds(5), Time.seconds(1))
            .reduce(new ReduceFunction<WordWithCount>() {
                @Override
                public WordWithCount reduce(WordWithCount a, WordWithCount b) {
                    return new WordWithCount(a.word, a.count + b.count);
                }
            });

        // print the results with a single thread, rather than in parallel
        windowCounts.print().setParallelism(1);

        env.execute("Socket Window WordCount");
    }

    // Data type for words with count
    public static class WordWithCount {

        public String word;
        public long count;

        public WordWithCount() {}

        public WordWithCount(String word, long count) {
            this.word = word;
            this.count = count;
        }

        @Override
        public String toString() {
            return word + " : " + count;
        }
    }
}




总结
本文讲述了flink的local模式的安装与使用。可以看到，flink的安装和使用还是相当方便的。
--------------------- 
 

转载于:https://my.oschina.net/xiaominmin/blog/3056366