集群之间数据的迁移

场景:旧集群的数据要迁移到新集群上面


hadoop distcp [option] hdfs://master_ip:8020/hive/warehouse/xxx.db/tab_name hdfs://master_ip:8020/hive/warehouse/xxx.db/tab_name


option的内容可以hadoop distcp回车就可以查看帮助了,这里不用多解释了吧。


master_ip:填集群master的IP

tab_name:天要迁移表的名字

路径要保证正确,如果你不知道表的路径可以用desc formatted db_name.tab_name来看。location就是正确的路径,把test01换成master_ip:port即可。

例如:

hive> desc formatted aidemo.ac_ref;
OK
# col_name            	data_type           	comment             
	 	 
pkg_name            	string              	                    
label               	string              	                    
	 	 
# Detailed Table Information	 	 
Database:           	aidemo              	 
Owner:              	hchou              	 
CreateTime:         	Wed Jun 07 15:34:35 CST 2017	 
LastAccessTime:     	UNKNOWN             	 
Protect Mode:       	None                	 
Retention:          	0                   	 
Location:           	hdfs://test01/hive/warehouse/aidemo.db/ac_ref	 
Table Type:         	MANAGED_TABLE       	 
Table Parameters:	 	 
	transient_lastDdlTime	1496820875          
	 	 
# Storage Information	 	 
SerDe Library:      	org.apache.hadoop.hive.serde2.lazy.LazySimpleSerDe	 
InputFormat:        	org.apache.hadoop.mapred.TextInputFormat	 
OutputFormat:       	org.apache.hadoop.hive.ql.io.HiveIgnoreKeyTextOutputFormat	 
Compressed:         	No                  	 
Num Buckets:        	-1                  	 
Bucket Columns:     	[]                  	 
Sort Columns:       	[]                  	 
Storage Desc Params:	 	 
	field.delim         	\t                  
	serialization.format	\t                  
Time taken: 0.078 seconds, Fetched: 28 row(s)




评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值