spark
剑客黑白熊
这个作者很懒,什么都没留下…
展开
-
Spark随笔
1.解决命令冲突 spark的启动与关闭命令与hadoop重复,直接调用可能调用的是hadoop,因此需要对spark的启动命令进行修改,将${spark_home}\sbin下的start-all.sh改为start-spark-start.sh。 2.spark web访问的页面 集群页面:http://${master_ip}:8080 单机页面:http...原创 2018-08-19 16:07:17 · 237 阅读 · 0 评论 -
flume使用kafkachannel直接导入到kafka
#bin/flume-ng agent -n a1 -f conf/a1.conf -c conf -Dflume.root.logger=INFO,console #定义agent名, source、channel、sink的名称 a1.sources = r1 a1.channels = c1 #具体定义source a1.sources.r1.type = com.bw.flume....转载 2018-09-10 15:41:00 · 1829 阅读 · 0 评论 -
flume将kafka中的消息写入hdfs
#bin/flume-ng agent -n agent -f conf/a3.conf -c conf -Dflume.root.logger=INFO,console #source的名字 agent.sources = kafkaSource # channels的名字,建议按照type来命名 agent.channels = memoryChannel # sink的名字,建议按照目标来...转载 2018-09-10 15:42:18 · 1048 阅读 · 0 评论 -
flume自定义Intercept
package com.flume; import org.apache.flume.Context; import org.apache.flume.Event; import org.apache.flume.interceptor.Interceptor; import java.io.UnsupportedEncodingException; import java.util.Arr...转载 2018-09-10 16:52:15 · 291 阅读 · 0 评论