自定义博客皮肤VIP专享

*博客头图:

格式为PNG、JPG,宽度*高度大于1920*100像素,不超过2MB,主视觉建议放在右侧,请参照线上博客头图

请上传大于1920*100像素的图片!

博客底图:

图片格式为PNG、JPG,不超过1MB,可上下左右平铺至整个背景

栏目图:

图片格式为PNG、JPG,图片宽度*高度为300*38像素,不超过0.5MB

主标题颜色:

RGB颜色,例如:#AFAFAF

Hover:

RGB颜色,例如:#AFAFAF

副标题颜色:

RGB颜色,例如:#AFAFAF

自定义博客皮肤

-+

宝罗Paul 的博客

认真工作,愉快生活 ^_^

  • 博客(4)
  • 资源 (2)
  • 收藏
  • 关注

原创 跨集群hive批量建表

【需求】 在集群A建表,要同步在集群B建表、修复历史分区。表用到的数据源在云上。 【注意】hive -f时涉及的HDFS操作权限问题 A集群有9个表要同步到B集群 [hive@bigdata-master-1 ~]$ vim tables_ToBeCreated_onOtherCluster # 9个表是: [hive@bigdata-master-1 ~]$ cat tables_To...

2018-08-31 21:24:49 1515

原创 如何将Hive仓库中的查询结果导出到本地文件

我在hive仓库中有个表,已经使用HQL跑出来结果,存到了hive中。表的schema如下 show create table test_xiaoxiannv.dw_clickadvert_daily; CREATE EXTERNAL TABLE test_xiaoxiannv.dw_clickadvert_daily( id int, ip string, time str...

2018-08-06 11:35:57 4455

原创 Hive常用分区操作命令20180805

环境:hadoop-2.7 , hive 2.1 // 在linux命令行为指定的表,以循环方式插入分区 for d in “4 5”; do hive -e “ALTER TABLE machine_logs.uniform_id ADD IF NOT EXISTS PARTITION (dt=’2018-08-0$d’)”;echo —— ; done Logging initializ...

2018-08-05 17:14:16 1319

原创 yarn中MR作业报错Java heap space

提交到yarn框架计算的作业报错 //0,报错内容 我们hadoop-2.7集群用的执行引擎不是Tez,而是mr(是老集群) Error: Java heap space Container killed by the ApplicationMaster. //1,查找报错日志 [root@ my-hadoop-cluster hive]# grep -C 3 –color “log....

2018-08-05 15:57:34 3267

爬虫技能树

爬虫技能书,介绍成为爬虫大师必备的技能:前端、网络、存储等待

2018-09-19

[案例]从冷备份的hdfs数据中恢复到原来的hbase表

介绍了从之前冷备份到hdfs的Hbase数据中恢复数据到hbase表的操作流程,使用的hbase-1.1,hadoop-2.7

2018-04-08

空空如也

TA创建的收藏夹 TA关注的收藏夹

TA关注的人

提示
确定要删除当前文章?
取消 删除