Hadoop
Michael-JOE
这个作者很懒,什么都没留下…
展开
专栏收录文章
- 默认排序
- 最新发布
- 最早发布
- 最多阅读
- 最少阅读
-
hadoop 伪分布式部署过程
1. 配置PATH #vi /etc/profile export JAVA_HOME=/usr/java/jdk1.6.0_32 export PATH="$JAVA_HOME/bin:$PATH" export HADOOP_PREFIX=/home/hadoop/hadoop-2.4.0 export CLASSPATH=".:$JAVA_HOME/lib:$CLASSPATH"原创 2014-09-23 23:58:45 · 793 阅读 · 0 评论 -
MapReduce中的Shuffle和Sort分析
MapReduce 框架的核心步骤主要分两部分:Map 和Reduce。当你向MapReduce 框架提交一个计算作业时,它会首先把计算作业拆分成若干个Map 任务,然后分配到不同的节点上去执行,每一个Map 任务处理输入数据中的一部分,当Map 任务完成后,它会生成一些中间文件,这些中间文件将会作为Reduce 任务的输入数据。Reduce 任务的主要目标就是把前面若干个Map 的输出汇总到一起转载 2015-09-27 14:08:03 · 442 阅读 · 0 评论 -
YARN之CapacityScheduler配置
配置截图如下:原创 2016-12-19 15:51:29 · 1303 阅读 · 0 评论 -
hadoop-2.6.0-cdh5.5.2源码编译:支持snappy压缩
1、下载tar包下载 hadoop-2.6.0-cdh5.5.2-src.tar.gz2、解压并查看# tar zxvg hadoop-2.6.0-cdh5.5.2-src.tar.gz # head -15 BUILDING.txt Build instructions for Hadoop ---------------------------------------------------...原创 2018-05-23 16:04:41 · 870 阅读 · 0 评论 -
spark-shell报ClosedChannelException解决方案
运行 spark-shell --master yarn-client,报错如下: 解决办法: 先停止YARN服务,然后修改yarn-site.xml,增加以下内容: <property> <name>yarn.nodemanager.vmem-check-enabled</name> <value>false</val...原创 2018-09-26 22:16:36 · 680 阅读 · 0 评论 -
查看yarn日志报错Error getting logs at ***:8041
解决方案: 1、修改目录权限 su hdfs hdfs dfs -chmod 1777 /tmp/logs hdfs dfs -chown mapred:hadoop /tmp/logs hdfs dfs -chgrp -R hadoop /tmp/logs 2、重启JobHistory Server原创 2019-05-23 13:21:29 · 1548 阅读 · 0 评论 -
Container is running beyond physical memory limits
1、Hive执行SQL语句,出现如下错误: Container is running beyond physical memory limits. Current usage: 4.3 GB of 4 GB physical memory used; 8.9 GB of 8.4 GB virtual memory used. Killing container. 2、错误分析: 4....原创 2019-06-19 09:53:22 · 2980 阅读 · 0 评论 -
DBeaver访问不了kerberos环境的hive
1、错误:unsupported key type found the default TGT: 18 GSS initiate failed [Caused by GSSException: No valid credentials provided (Mechanism level: Failed to find any Kerberos tgt)] * 原因:这个是AES256加密算法,...原创 2019-08-30 10:31:19 · 3701 阅读 · 0 评论
分享