大数据技术基础
文章平均质量分 56
参考书籍:
湖南大学出版社 主编/余恒芳 龙陈锋 王建辉
书号 ISBN 978-7-5667-1664-4
懒笑翻
这个作者很懒,什么都没留下…
展开
-
8.2实训任务 Sqoop的安装与配置
清华大学开源软件镜像站 | Tsinghua Open Source Mirror1、下载安装Index of /dist/sqoop/1.99.72、上传解压[bigdata@localhost ~]$ su rootPassword: [root@localhost bigdata]# cd /home/bigdata/Opt[root@localhost Opt]# tar -zxvf sqoop-1.99.7-bin-hadoop200.tar.gz...原创 2022-07-29 15:25:14 · 745 阅读 · 0 评论 -
6.6实训任务 HBase API
1、使用IDEA的maven工程2、增加Hbase的Maven依赖想找对应版本的maven https://mvnrepository.com/pom.xml 文件内容<?xml version="1.0" encoding="UTF-8"?><project xmlns="http://maven.apache.org/POM/4.0.0" xmlns:xsi="http://www.w3.org/2001/XMLSchema..原创 2022-05-10 18:14:35 · 557 阅读 · 0 评论 -
6.5 实训任务 HBase shell 常见命令的使用
0、进入HBase shellcd /home/bigdata/Opt/hbase-2.4.12/bin./hbase shell1、 创建成绩表,列簇为 id,name,coursecreate 'scores','id','name','course'````````````emo emo emo emo emo emo emo`````````````````,报错了·······ERROR: KeeperErrorCode = ConnectionLoss for原创 2022-05-10 17:42:58 · 1472 阅读 · 0 评论 -
ERROR: KeeperErrorCode = ConnectionLoss for /hbase/master
1、关闭所有防火墙Linux CentOS-7 关闭2个防火墙_懒笑翻的博客-CSDN博客1、system--------查看防火墙状态systemctl status firewalld--------关闭防火墙systemctl stop firewalld2、service------查看防火墙状态service firewalld status--------关闭防火墙service firewalld stop[bigdata@localhost ~]$ systemctl status fi原创 2022-05-09 22:42:28 · 6526 阅读 · 0 评论 -
Linux CentOS-7 关闭2个防火墙
1、system--------查看防火墙状态systemctl status firewalld--------关闭防火墙systemctl stop firewalld2、service------查看防火墙状态service firewalld status--------关闭防火墙service firewalld stop[bigdata@localhost ~]$ systemctl status firewalld● firew.原创 2022-05-09 21:23:56 · 1033 阅读 · 0 评论 -
6.4实训任务 HBase的搭建与使用
前期准备:1、检测Java安装环境java -version2、检测Hadoop安装环境hadoop version3、进入hadoop 的 /home/bigdata/Opt/hadoop-2.10.1/sbin 目录后:cd /home/bigdata/Opt/hadoop-2.10.1/sbin4、启动 start-dfs.sh 服务start-dfs.sh5、查看启动的服务jps 1、官网下载HBaseApache原创 2022-05-09 18:25:08 · 1427 阅读 · 1 评论 -
java.net.ConnectException: Call From localhost/127.0.0.1 to 192.168.232.138:9000 failed on connectio
INFO client.RMProxy: Connecting to ResourceManager at /192.168.232.138:8032java.net.ConnectException: Call From localhost/127.0.0.1 to 192.168.232.138:9000 failed on connection exception: java.net.ConnectException: Connection refused; For more details see原创 2022-05-03 18:11:06 · 4726 阅读 · 0 评论 -
5.3实训任务 Mapreduce API-WordCount 实现
1、创建HDFS目录[先进入到 /home/bigdata/Opt/hadoop-2.10.1/sbin 目录]hadoop fs -mkdir /input【注意:hadoop 命令能运行的前提是hadoop服务已启动,否者会报如下错误:】mkdir: No Route to Host from localhost/127.0.0.1 to 192.168.232.135:9000 failed on socket timeout exception: java.net.NoRo原创 2022-05-03 17:45:13 · 923 阅读 · 0 评论 -
4.3实训任务[选做] Zookeeper伪集群模式安装
一、安装jdk Linux中安装JDK_懒笑翻的博客-CSDN博客二、下载并解压Zookeeper 4.3实训任务 Zookeeper安装与配置_懒笑翻的博客-CSDN博客三、复制 zoo_sample.cfg 为 zoo-1.cfg1、先进入 /home/bigdata/Opt/apache-zookeeper-3.7.0-bin/conf 目录cd /home/bigdata/Opt/apache-zookeeper-3.7.0-bin/conf2、开始复制c..原创 2022-05-02 22:20:30 · 786 阅读 · 0 评论 -
4.3实训任务 Zookeeper安装与配置
一、Zookeeper的下载1、官网下载地址Apache ZooKeeper注意:要下载对应Hadoop版本的Zookeeper通过 hadoop version 命令查看Hadoop版本2、我下载的3.7.0https://dlcdn.apache.org/zookeeper/zookeeper-3.7.0/apache-zookeeper-3.7.0-bin.tar.gz二、Zookeeper安装Zookeeper单机模式安装1、配置java环境(之.原创 2022-05-02 20:35:01 · 2516 阅读 · 0 评论 -
VMware Workstation 中安装CentOS-7-x84_64-DVD-1708.iso
1、VMware-workstation-full-10.0.4-2249910.exe CentOS-7-x86_64-DVD-1708.iso2、运行 VMware-workstation-full-10.0.4-2249910.exe ,安装典型(I),然后一直按自己的选择,一直下一步。(注:如果win10系统,在安装的过程中,如果安装在C盘或者D盘有可能会有权限问题,原创 2018-02-06 18:52:10 · 6753 阅读 · 2 评论 -
‘get path [watch]‘ has been deprecated. Please use ‘get [-s] [-w] path‘ instead.
运行get /zkPro mynode命令的时候报错了:'get path [watch]' has been deprecated. Please use 'get [-s] [-w] path' instead.翻译:'get path [watch]'已弃用。 请改用“get [-s] [-w] path”。 查询命令:get [-s] [-w] path-s 查看节点所有信息:数据信息+节点属性值-w 查看节点数据信息[zk: localhost:2.原创 2022-05-02 18:03:51 · 763 阅读 · 0 评论 -
3.5实训任务 Hadoop shell 常见命令的使用
1、使用Hadoop shell 命令在Hadoop集群中新建一个文件夹 /usr/data/input命令行如下:①先进入Hadoop集群,进入 /home/bigdata/Opt/hadoop-2.10.1/sbin 目录cd /home/bigdata/Opt/hadoop-2.10.1/sbin②新建文件夹/usr/data/inputhadoop fs -mkdir -p /usr/data/input...原创 2022-04-29 18:37:53 · 2420 阅读 · 0 评论 -
Call from hostname/127.0.1.1 to localhost:9000 failed on connection exception.
天知道什么奇奇怪怪的报错,报错解决又来一个报错......我真的会谢~~~解决如下:1、先删除core-site.xml配置文件中你配置的路径下的文件【记得使用root用户权限】可以直接在XFTP中用root权限登录下删除也可以用如下命令删除2、初始化名称结点,在 /home/bigdata/Opt/hadoop-2.10.1/sbin 目录下cd /home/bigdata/Opt/hadoop-2.10.1/sbinhadoop namenode -.原创 2022-04-29 18:23:13 · 6286 阅读 · 2 评论 -
Failed to stop iptables.service: Unit iptables.service not loaded.
在关闭防火墙的时候,失败了~Redirecting to /bin/systemctl stop iptables.serviceFailed to stop iptables.service: Unit iptables.service not loaded.我用的 service iptables stop 关闭防火墙,难怪关闭失败哦~我的是CentOS-7-x86_64-DVD-2009的镜像,关闭防火墙要用systemctl stop firewalld·····.原创 2022-04-29 18:07:43 · 7613 阅读 · 0 评论 -
mkdir: Call From localhost/127.0.0.1 to 192.168.232.133:9000 failed on conne
mkdir: Call From localhost/127.0.0.1 to 192.168.232.133:9000 failed on connection exception: java.net.ConnectException: Connection refused; For more details see: http://wiki.apache.org/hadoop/ConnectionRefused错误解决:1、运行命令:cd /etcvim hosts编辑/etc下原创 2022-04-29 09:43:18 · 4117 阅读 · 3 评论 -
mkdir: No FileSystem for scheme “null“
在使用 Hadoop shell 命令在Hadoop 集群中新建文件夹 /usr/data/input 时报错 mkdir: No FileSystem for scheme "null" 。运行的命令是:hadoop fs -mkdir -p /usr/data/input原创 2022-04-29 08:41:33 · 864 阅读 · 0 评论 -
java.io.IOException: Cannot remove current directory: /home/bigdata/Opt/hadoop-2.10.1/tmp/dfs/name/c
执行NameNode格式化时,运行 hdfs namenode -format 报错:java.io.IOException: Cannot remove current directory: /home/bigdata/Opt/hadoop-2.10.1/tmp/dfs/name/current报错原因是,之前已经执行NameNode格式化成功过。解决办法:使用root权限删除格式化NameNode时产生的current目录,再次执行格式化NameNode命令。1、使用ro.原创 2022-04-26 18:05:49 · 2319 阅读 · 0 评论 -
java.lang.IllegalArgumentException: URI has an authority component
java.lang.IllegalArgumentException: URI has an authority component来分析错了:是hdfs-site.xml配置文件中dfs.namenode.name.dir的配置有问题,或者没进行配置正确的配置是:进入修改vim /home/bigdata/Opt/hadoop-2.10.1/etc/hadoop/hdfs-site.xml<configuration> <property> .原创 2022-04-25 01:10:43 · 3503 阅读 · 0 评论 -
卸载OpenJDK
在 查看JDK安装结果我发现我的是OpenJDK,裂开。java -version查看已安装的JDKrpm -qa | grep jdk可是OpenJDK不行,说是要安装Oracle JDK。那就卸载先吧,不要担心,卸载就是了。rpm -e --nodeps java-1.8.0-openjdk-headless-1.8.0.262.b10-1.el7.x86_64rpm -e --nodeps copy-jdk-configs-3.3-10.el7_5.noarc.原创 2022-04-24 20:54:04 · 7414 阅读 · 0 评论 -
配置SSH无密码登录
配置SSH无密码登录①进入Opt文件目录后输入命令 ssh-heygen产生密钥ssh-keygen②根据提示按三次回车后可有如下效果③ 输入命令ssh-copy-id xx.xx.xx.xx 把上一步生成的空的密码拷贝给指定的主机,xx.xx.xx.xx也就是你虚拟机的IP地址。 ssh-copy-id 192.168.232.130 现在即可通过ssh 192.168.232.130 访问本地主机,无需输入密码就可访问...原创 2022-04-24 19:42:12 · 3401 阅读 · 0 评论 -
Linux中安装JDK
可以先在官网查看jdk安装说明1、64位系统 https://docs.oracle.com/javase/8/docs/technotes/guides/install/linux_jdk.html#BJFJJEFGhttps://docs.oracle.com/javase/8/docs/technotes/guides/install/linux_jdk.html#BJFJJEFG2、32位系统 https://docs.oracle.com/javase/8/docs/technot..原创 2022-04-24 17:23:44 · 8208 阅读 · 0 评论 -
3.4实训任务 Hadoop环境搭建与安装
一、官网下载HadoopApache Hadoophttps://hadoop.apache.org/releases.htmlWindows在Apache官网下载需要版本的Binary文件,再通过XFTP传输到CentOS虚拟机。二、安装Hadoop0、在xshell中输入ls命令查看文件目录1、在Xshell中点击xftp2、找到下载下来的Hadoop···.tar.gz文件,双击该文件开始上传3、传输完成4、再在xshell中输入l...原创 2022-04-23 21:49:38 · 3113 阅读 · 0 评论 -
CentOS与Xshell建立连接,/usr/bin/xauth: file /home/bigdata/.Xauthority does not exist 解决
首先:从VMware中打开CentOS7、打开Xshell1、在登录CentOS7后,在桌面鼠标右键打开终端2、输入 ip a 可查看CenOS虚拟机的IP地址3、到Xshell7中,在左侧会话管理器中 鼠标右键可选择 新建 会话可以看到出现错误提示:/usr/bin/xauth: file /home/bigdata/.Xauthority does not exist错误原因:是因为添加用户时没有授权对应的目录。解决方法:chown ...原创 2022-04-23 20:48:29 · 1335 阅读 · 0 评论 -
2.6实训任务 Xshell、XFTP下载安装
一、下载XShellDownload XShell - latest versionwindows电脑可直接从此下载Download XShell 7.0.0090 - latest version原创 2022-04-23 20:12:22 · 844 阅读 · 0 评论 -
2.4实训任务 Linux 虚拟机的安装
一、官网下载光盘映像文件【以CentOS为例】Download - CentOS Wikihttps://wiki.centos.org/Download1、选择一个mirrors点击【我选择的是第三个,7版本的】2、随意选一个链接进入【我选的是阿里云的镜像站】3、可以根据不同版本说明选择你想要的镜像文件【我选择的是···DVD-2009.iso】镜像名 版本 用途 CencoS-7-x86_64-DVD-2009.iso 标准安装版 该版本在安.原创 2022-04-22 22:32:38 · 1163 阅读 · 1 评论 -
2.3实训任务:VMware Workstations 安装和使用
一、下载VMware Workstations1、官网直接下载链接【免注册登录】:https://www.vmware.com/go/getworkstation-win2、官网选择需要的版本下载链接【需要注册登录官网】https://customerconnect.vmware.com/en/downloads/info/slug/desktop_end_user_computing/vmware_workstation_pro/16_0https://customerconne.原创 2022-04-22 20:49:47 · 497 阅读 · 0 评论