datax-hdfs2stream

本文介绍了如何使用DataX进行Hadoop HDFS到Stream的数据迁移。首先,详细阐述了准备Hadoop环境的步骤,接着展示了配置文件hdfs2stream.json的内容,最后给出了操作的结论和注意事项。
摘要由CSDN通过智能技术生成
准备hadoop环境
master 192.168.0.200
slave1 192.168.0.201
slave1 192.168.0.202

master start-all.sh
5728 SecondaryNameNode
7828 Jps
5893 ResourceManager
5531 NameNode
slave1
3895 NodeManager
3772 DataNode
5646 Jps
slave2
3745 DataNode
5650 Jps
3868 NodeManager

cat hdfs-core.xml
<configuration>
<!--指定namenode的地址-->
    <property>
                <name>fs.defaultFS</name>
                <value>hdfs://master:9000</value>
    </property>
    <!--用来指定使用hadoop时产生文件的存放目录-->
    <property>
             <name>hadoop.tmp.dir</name>
             <value>/home/hadoop/hadoopdata</value> 
    </property>
</configuration>


[root@master hadoop]# cat hdfs-site.xml 
<configuration>
	<!--指定hdfs保存数据的副本数量 -->
	<property>
		<name>dfs.replication</name>
		<value>1</value>
	</property>
	<property>
		<name>dfs.namenode.http.address</name>
		<value>slave1:50070</value>
	</property>
</configuration>

准备datax.txt
1 张一 21
2 张二 22
3 张三 23
4 张四 24
5 张五 25
datax2.txt
1 李一 21
2 李二 22
3 李三 23
4 李四 24
5 李五 25
以空格分隔,主要是和以下json文件中的
"fieldDelimiter": " "相对应即可

在这里插入图片描述

hdfs2stream.json
{
   
    "job": {
   
        "setting": {
   
            "speed": {
   
                "channel"<
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值