关闭

flink快速入门及采坑记录

标签: apache-flink
1030人阅读 评论(0) 收藏 举报
分类:

apache flink作为第四代mapreduce计算框架,已经得到越来越多的应用,这里介绍如何快速入门,以及记录一个内存错误的问题。

1、安装jdk

	

2、下载flink,并解压。

wget https://mirrors.tuna.tsinghua.edu.cn/apache/flink/flink-1.3.2/flink-1.3.2-bin-hadoop27-scala_2.11.tgz
	

3、运行报错,修改参数运行正常。(如果虚拟机内存1G,会报内存不足的错误)

bin/start-local.sh

启动之后发现没有java进程,查看日志输出,发现Cannot allocate memoery,可以确定是由于内存不足导致的。

Java HotSpot(TM) 64-Bit Server VM warning: INFO: os::commit_memory(0x00000000aaaa0000, 1431699456, 0) failed; error='Cannot allocate memory' (errno=12)
#
# There is insufficient memory for the Java Runtime Environment to continue.
# Native memory allocation (mmap) failed to map 1431699456 bytes for committing reserved memory.
# An error report file with more information is saved as:
# /root/flink-1.3.2/hs_err_pid11115.log

查看内存不足的错误日志hs_err_pid11115.log,发现jvm参数设置超过虚拟机最大内存。

jvm_args: -Xms2048m -Xmx2048m -Dlog.file=/root/flink-1.3.2/log/flink-root-jobmanager-0-buejee.log -Dlog4j.configuration=file:/root/flink-1.3.2/conf/log4j.properties -Dlogback.configurationFile=file:/root/flink-1.3.2/conf/logback.xml
java_command: org.apache.flink.runtime.jobmanager.JobManager --configDir /root/flink-1.3.2/conf --executionMode local
java_class_path (initial): /root/flink-1.3.2/lib/flink-python_2.11-1.3.2.jar:/root/flink-1.3.2/lib/flink-shaded-hadoop2-uber-1.3.2.jar:/root/flink-1.3.2/lib/log4j-1.2.17.jar:/root/flink-1.3.2/lib/slf4j-log4j12-1.7.7.jar:/root/flink-1.3.2/lib/flink-dist_2.11-1.3.2.jar:::
Launcher Type: SUN_STANDARD

看到jvm参数默认设置最小内存最大内存均是2g,需要修改conf/flink-conf.yml,默认job.manager.heap.mb: 1024,taskmanager.heap.mb: 1024,将他们均改为512。

# The heap size for the JobManager JVM
jobmanager.heap.mb: 512
# The heap size for the TaskManager JVM
taskmanager.heap.mb: 512

正常启动的截图

	

这时候可以通过访问http://ip:8081,来查看flink可视化界面。

	

通过netcat工具监听9000端口,如果系统没有nc命令,可以通过yum install nc -y来安装。

	

运行任务

	

查看结果

	
0
0
查看评论

Tomcat采坑记录

关于编码tomcat容器运行环境有自己的默认编码,跟本地main方法测试环境的默认编码可能不一样,有时候本地测试正确的同样代码,放到tomcat容器里面就会出现中文乱码。 本地测试正常: BufferedReader br = new BufferedReader(new FileReader(...
  • linysuccess
  • linysuccess
  • 2017-12-15 17:21
  • 21

Flink学习笔记:1、Flink快速入门

官方文档:https://ci.apache.org/projects/flink/flink-docs-release-1.3/quickstart/setup_quickstart.htmlflink在streaming上,比spark的设计要更为良好,spark的stream应该都很清楚了,是...
  • chengyuqiang
  • chengyuqiang
  • 2017-11-22 09:23
  • 950

android 开发过程中采过的那些坑--工具篇1

最近将 IDEA 升级到官方最新版本 15.0.2 使用过程中,发现之前的设置被IDEA 默认改变了,记下此文方便日后查阅。 我用的IDEA 设置的主题是 Darcula,在之前版本中,xml 文件显示的是黑色背景的,更新到最新版本后,发现tag标签背景是白色。如下图所示: ...
  • BruceHurrican
  • BruceHurrican
  • 2016-01-07 20:41
  • 441

angular4.0项目采坑记录

angular采坑记录
  • kassiaaaa
  • kassiaaaa
  • 2017-11-01 18:05
  • 124

解读Flink中轻量级的异步快照机制--论文

Flink Snapshot ABS
  • lmalds
  • lmalds
  • 2017-02-08 13:55
  • 1198

Qt Creator快速入门 源代码 Qt及Qt Quick开发实战精解 源代码

百度云 Qt Creator还是不错的一本书,书上内容基本都是从Qt Creator帮助文档翻译过来。还行。 Qt Creator快速入门  源代码   http://pan.baidu.com/share/link?shareid=336587&uk=2352...
  • qq_33850438
  • qq_33850438
  • 2016-06-02 22:26
  • 5638

Apache Flink:特性、概念、组件栈、架构及原理分析

Apache Flink是一个面向分布式数据流处理和批量数据处理的开源计算平台,它能够基于同一个Flink运行时(Flink Runtime),提供支持流处理和批处理两种类型应用的功能。现有的开源计算方案,会把流处理和批处理作为两种不同的应用类型,因为他们它们所提供的SLA是完全不相同的:流处理一般...
  • libing13810124573
  • libing13810124573
  • 2016-05-11 22:07
  • 468

php踩坑

1、从secureCRT的mysql查出来的数据,复制到windows的txt文本,然后写了一个小函数想要下载这些数据对应的url的图片。但是一直不可以,别的创建文件都是没问题的,但是这个url下载就是不可以,期间还出现了%BF%BB%BF… 解决: 因为linux和u...
  • suitingwei
  • suitingwei
  • 2015-11-25 11:43
  • 350

Log4J,在踩坑中升级版本

转载自  http://www.cnblogs.com/flystar32/p/6751895.html 基本概念 Commons-logging apache最早提供的日志的门面接口。避免和具体的日志方案(log4j、logback等)直接耦合。类似于JDBC的api接...
  • ya_1249463314
  • ya_1249463314
  • 2017-09-17 10:56
  • 234

理解Flink(一):数据流编程模型

抽象级别Flink提供了不同的抽象级别来开发流/批处理应用程序。 最低级抽象只提供有状态的流。它通过流程函数(Process Function)嵌入到DataStream API中。它允许用户从一个或多个流中自由地处理事件,并使用一致的容错状态。另外,用户可以注册事件时间和处理时间回调,允许程序实现...
  • u011239443
  • u011239443
  • 2017-04-30 22:45
  • 1681
    个人资料
    • 访问:136805次
    • 积分:2832
    • 等级:
    • 排名:第14932名
    • 原创:152篇
    • 转载:0篇
    • 译文:0篇
    • 评论:25条
    博客专栏
    database

    文章:5篇

    阅读:1928
    web

    文章:0篇

    阅读:0
    hadoop

    文章:11篇

    阅读:5843
    nginx

    文章:1篇

    阅读:615
    spring

    文章:4篇

    阅读:4412
    文章分类