Hadoop
凌冰_
分享知识带给我的快乐!帮助他人就是帮助自己。
希望更多人能关注,来分享我的成果!
希望大家快快乐乐的学习,开开心心的畅游知识的海洋。
展开
-
Hadoop Zookeeper 集群启动异常: “ZooKeeper JMX enabled by default”
ZooKeeper JMX enabled by defaultUsing config: /opt/module/zookeeper-3.4.10/bin/../conf/zoo.cfgError contacting service. It is probably not running.原创 2022-06-07 16:30:33 · 1859 阅读 · 0 评论 -
Hadoop 运行Java时发生异常:org.apache.hadoop.mapreduce.lib.input.InvalidInputException: Input path does not
Java远程到集群上,统计单词!原创 2022-06-01 14:41:11 · 1367 阅读 · 0 评论 -
Hadoop 运行Java时发生异常:org.apache.hadoop.mapred.FileAlreadyExistsException
无原创 2022-06-01 11:05:26 · 290 阅读 · 0 评论 -
Java运行Hadoop发生异常:HADOOP_HOME and hadoop.home.dir are unset
Java运行Hadoop发生异常:原因:在windows本地搭建Hadoop环境,下载winutils文件,并将hadoop-3.3.1包内的bin文件替换,将下载文件中hadoop.dll放到C\Windows\System32下解决:1.去官网下载对应的hadoop版本,在linux集群搭建的是hadoop-3.3.1,因此将hadoop-3.3.1下载到windows本地Hadoop下载地址:https://mirrors.tuna.tsinghua.edu.cn/ap原创 2022-05-18 10:02:25 · 717 阅读 · 0 评论 -
Hadoop 解决集群时间同步
原因:虚拟机的时间和北京时间不一致解决:1、安装ntpdate工具:sudo yum -y install ntp ntpdate2、 设置系统时间与网络时间同步:sudo ntpdate cn.pool.ntp.org3、修改为当地时间sudo cp /usr/share/zoneinfo/Asia/Shanghai /etc/localtime4.查看注意:以上步骤需要在三台机器上都进行操作一些哦...原创 2022-04-15 09:48:50 · 2762 阅读 · 0 评论 -
Hadoop 运行时发生异常:ERROR: Unable to write in /opt/module/hadoop-3.3.1/logs. Aborting.
解决:权限不够,授予权限sudo chmod 777 /opt/module/hadoop-3.3.1/logs原创 2022-03-22 15:42:09 · 9642 阅读 · 1 评论 -
hadoop 配置完善(二)
hadoop主机配置 优先顺序: 1)share目录下默认的配置文件(最低) 2)etc目录下配置文件(其次) 3)命令执行(最高) 执行案例之前必须启动6个进程哦! 案例:删除uber模式启动#bin/hadoop jar share/hadoop/mapreduce/hadoop-mapredude-examples-2.7.6.jar wordcount -D mapredu...原创 2018-04-26 16:17:06 · 203 阅读 · 0 评论 -
hadoop 配置完善(一)
(一)日志详解 进入hadoop这个目录下查看日志 (开启两个命令窗口) #cd logs/ #ls //查看 #rm -rf ./* //删除logs目录下所以的日志文件 #ls #sbin/start-dfs.sh //启动dfs #ls //再查看日志 hadoop-root-datanode-hadoop.log 详细日志信息;可以查...原创 2018-04-26 14:12:52 · 322 阅读 · 0 评论 -
hadoop 配置完善(三)
HDFS/YARN 界面分析 #sbin/start-all.sh 已过时 #jps 查看进程 #sbin/stop-all.sh 已过时 #jps #sbin/start-dfs.sh 启动#sbin/start-yarn.sh启动 #kill -9 4787(对应的DataNode) 可以杀死单个进程 #jps #sbin/hadoop-daemon.sh start datanode 可...原创 2018-05-03 11:56:08 · 137 阅读 · 0 评论 -
hadoop 词频统计
1)先写words文件 2)再将words上传到hdfs中,可以直接运行 bin/hadoop fs -put /home/data/words指定文件路径 /words目标路 浏览器查看文件 可以单击Download下载; 必须配置: C:\Windows\System32\drivers\etc\hosts 192.168.X.X hlx 2)查看案例 ...原创 2018-04-24 16:59:18 · 2040 阅读 · 1 评论 -
notepad++连接远程hadoop
打开notepad++ 配置如下: 选择profile settings Add new|启动 connect 效果原创 2018-04-17 16:00:37 · 812 阅读 · 0 评论 -
hadoop 详细配置
根据官网http://hadoop.apache.org/docs/r2.7.6/hadoop-project-dist/hadoop-common/SingleCluster.html 去做hadoop相应的配置 (1)Prepare to Start the Hadoop Cluster hadoop.env.sh export JAVA_HOME=/home/hadoop/java/...原创 2018-04-24 16:43:52 · 349 阅读 · 0 评论 -
只允许特定的组用户su切换到root
linux系统root具有至高无上的权限,工作生产环境或者VPS一般为了安全起见,禁止root登录,禁止root用户权限,使用普通用户登录,有特殊需求可以su或sudo切换到root权限进行操作,下面介绍一个方法只允许特定的组用户su切换到root:1、新建普通用户,比如baby1useradd baby转载 2017-02-05 10:42:34 · 1657 阅读 · 0 评论 -
普通用户用su 切换root,提示:“incorrect password!”
root用户登录测试服务器,今天使用个人普通用户leixj登录后想通过su切换到root,在使用su时,结果提示“密码不正确” :[leixj@lanpay ~]$ su - root口令:su: 密码不正确重复试了几次;为了验证密码,我将root密码改成了123,结果还是提示“密码不正确”;查看/etc下passw和shadow权限:-rw-r------转载 2017-02-05 10:41:22 · 3752 阅读 · 0 评论 -
VMware Workstation10 安装Centos6.5(64位)
1. 点击“新建虚拟机”,到向导窗口。选择自定义—>下一步。2. 选择虚拟机硬件兼容workstation10.0,下一步。3. 选择稍后安装系统,下一步。4. 选择操作系统为Linux,版本CentOS 64 位。下一步。5. 给虚拟机命名,指定安装位置,下一步。转载 2017-01-06 16:24:10 · 317 阅读 · 0 评论 -
Hadoop 运行wordcount案例
启动dfs[hadoop@master-hadoop hadoop-2.4.1]$sbin/start-dfs.sh启动yarn 资源集群管理[hadoop@master-hadoop hadoop-2.4.1]$sbin/start-yarn.sh启动历史服务[hadoop@master-hadoop hadoop-2.4.1]$sbin/mr-jobhistory-原创 2017-02-28 14:54:57 · 645 阅读 · 0 评论 -
hadoop 不能本地打开网页
当打开http://master-hadoop.dragon.org:50070/dfshealth.jsp网页时,是无法访问的! 解决(一): 必须写成 http://192.168.0.25:50070/dfshealth.jsp 就是要修改成具体的IP地址 解决(二): 本机无法打开,在win7就必须配置hosts这个文件原创 2017-02-28 15:03:38 · 1523 阅读 · 1 评论 -
Hadoop .配置SSH无密码登录
使用sbin/start-dfs.sh 和sbin/start-yarn.sh启动方式时,必须配置SSH协议!否则手动输入密码;SSH无秘钥登录 1、查看SSH协议 2、启动sbin/start-dfs.sh 3、SSH协议 4、用命令查看 ssh localhost5、如何配置SSH无密码登录原创 2017-02-22 10:09:03 · 340 阅读 · 0 评论 -
Hadoop process information unavailable 的解决
在centos上查看java进程时,process information unavailable 的情况解决方案:cd /tmp 进到该目录,然后ls查看下,通常会遇到很多hsperfdata_开头的目录,进入可疑的目录看看删除上面的文件:[root@master-hadoop tmp]# rm -rf hsperfdata_*再次查看:[原创 2017-02-22 14:10:00 · 1885 阅读 · 0 评论 -
hadoop 关闭datanode节点时发生异常:no datanode to stop
关闭datanode节点时发生异常:[hadoop@master-hadoop hadoop-2.4.1]$sbin/hadoop-daemon.sh stop datanodeno datanode to stop原因:每次namenode format会重新创建一个namenodeId,而tmp/dfs/data下包含了上次format下的id,namenode format清原创 2017-02-23 14:36:03 · 8333 阅读 · 3 评论 -
Hadoop 用Eclipse来MapReduce WordCount实战 (2)
继续可以优化源代码,提高效率!创建一个WordCountApp类 运行效果打开文件part-r-00000原创 2017-03-03 15:24:53 · 353 阅读 · 0 评论 -
Hadoop自测题及参考答案
单选题1、与其他几项不同的是A. MesosB. MongodbC. CoronaD. BorgE. YARN注:其他几项都是资源统一管理系统或者资源统一调度系统,而 Mongodb一种非关系型数据库。2、[java基础] 以下不属于线程安全的数据结构是A. HashMapB. HashTableC. CopyOnWriteArrayList转载 2017-01-04 16:57:36 · 5363 阅读 · 0 评论