Hadoop
手写代码
这个作者很懒,什么都没留下…
展开
-
关于 Name node is in safe mode.
将本地文件拷贝到hdfs上去,结果上错误:Name node is in safe mode这是因为在分布式文件系统启动的时候,开始的时候会有安全模式,当分布式文件系统处于安全模式的情况下,文件系统中的内容不允许修改也不允许删除,直到安全模式结束。安全模式主要是为了系统启动的时候检查各个DataNode上数据块的有效性,同时根据策略必要的复制或者删除部分数据块。运行期通过命令也可以进入安全模式。在实转载 2016-10-10 10:08:07 · 218 阅读 · 0 评论 -
关于Illegal partition for
执行MapReduce时出现异常 Illegal partition for…源代码package com.qst.wordcount;import java.io.IOException;import java.util.Iterator;import java.util.StringTokenizer;import org.apache.hadoop.fs.Path;import org.原创 2016-10-10 22:33:27 · 1978 阅读 · 0 评论 -
关于Hadoop启动一段时间后DataNode消失:WARN org.apache.hadoop.metrics2.util.MBeans: Hadoop:service=DataNode,
启动Hadoop一段时间后,其中一个机器上的DataNode消失,查看日志发现2016-10-12 01:04:12,856 WARN org.apache.hadoop.metrics2.util.MBeans: Hadoop:service=DataNode,name=FSDatasetState-DS-498785482-127.0.1.1-50010-1475998532523javax.原创 2016-10-12 17:06:55 · 1291 阅读 · 0 评论 -
关于org.apache.hadoop.yarn.exceptions.YarnException: Unauthorized request to start container
14/04/29 02:45:07 INFO mapreduce.Job: Job job_1398704073313_0021 failed with state FAILED due to: Application application_1398704073313_0021 failed 2 times due to Error launching appattempt_13987040733转载 2016-10-15 11:12:54 · 2479 阅读 · 0 评论 -
关于MapReduce join操作
用户表:ID+name+sex 用户行为表:ID+City+action+notes Join完成后的形式:ID+name+sex+city+action+notes package com.qst.DateJoin;import java.io.IOException;import java.util.ArrayList;import java.util.Iterator;import原创 2016-10-15 19:46:46 · 383 阅读 · 0 评论 -
java.io.IOException: Could not locate executable null\bin\winutils.exe in th
在运行Spark是时候报异常java.io.IOException: Could not locate executable null\bin\winutils.exe in th解决办法 在环境变量中配置HADOOP_HOME的路径 在path环境后面添加E:\hadoop-common-2.2.0-bin-master\binhadoop-common-2.2.0-bin-master的下载原创 2017-01-19 14:26:34 · 770 阅读 · 0 评论