大数据
zhuzuwei
这个作者很懒,什么都没留下…
展开
-
kafka集群的安装和启动
Kafka版本:kafka_2.12-2.1.1.tgz jdk版本:JDK1.8以上版本号解释:Scala版本号:2.12 Kafka版本号:2.1.1Kafka集群安装步骤:1.下载安装包 wget https://mirrors.tuna.tsinghua.edu.cn/apache/kafka/2.1.1/kafka_2.12-2.1.1.tgz2.解压缩 tar -zxvf kafka_2.12-2.1.1 -C /usr/local (-C ...转载 2020-07-05 11:53:38 · 1029 阅读 · 0 评论 -
连接cenOS上的redis
1. redis的关闭和重启1.1 使用ps-ef|grep-iredis 查询redis-server是否在运行 找到对应的进程kill掉即可1.2./redis-server命令重启redis数据库2. 进入redis交互界面./redis-cli输入 auth password,如果密码正确会返回ok2.1. 如果报错(error) ERR Client sent AUTH, but no password is set,说明没有配置密码,可以进c...原创 2020-06-07 19:08:01 · 211 阅读 · 0 评论 -
centOS6安装redis
以安装3.2.9版本为例1. 从网上下载安装文件 redis-3.2.9.tar.gz网址:http://download.redis.io/releases/ ,其中包含了很多历史版本2.通过sftp上传到centOS6.53.解压 tar -xzvfredis-3.2.9.tar.gz 得到redis-3.2.9文件夹4. 进入redis-3.2.9文件夹内,执行make5. 执行make test5.1 安装8.6.3:依次执行以下步骤wget...原创 2020-06-07 18:59:08 · 534 阅读 · 0 评论 -
Java客户端操作HDFS
1. 在Eclipse或者IDEA中新建Maven项目2.设置pom.xml文件,添加hadoop-comm、hadoop-hdfs和jdk.tools依赖<dependency> <groupId>org.apache.hadoop</groupId> <artifactId>hadoop-common</artif...原创 2018-09-03 10:56:10 · 814 阅读 · 0 评论 -
使用sqoop将Hive中的数据导出到mysql及异常Job failed as tasks failed.
1. 使用以下语句尝试从Hive中导出数据到mysql/sqoop export --connect jdbc:mysql://***.***.***.***./companyinfo --username root --password password -m 1 --table testsqoop --export-dir /user/hive/warehouse/testsqoop --...原创 2018-08-19 16:27:41 · 4264 阅读 · 3 评论 -
使用JDBC连接hiveserver2
1. 先在linux中启动hiveserver2命令:hive --service hiverserver2 2. 使用Eclipse创建java项目,并在项目中导入以下jar包(可在hadoop/share/lib和hive/lib中找)3. Hive的JDVC客户端操作步骤 4. Java代码(1) JDBCUtilsimport java.sql.C...原创 2018-08-19 16:38:30 · 6478 阅读 · 0 评论 -
hive图形界面hwi启动及异常 Ant could not find the task or a class this task relies upon.
一. hwi即 HiveWebInterface,在启动前,先要配置好相应的war包。1. 在apache官网下载好对应Hive版本的源码文件2. 解压此压缩文件,在hwi目录下找到web文件夹。3. 将这个web文件夹打包为war包,执行命令:jar cvfM0 hive-hwi-2.1.1.war -C web/ .4. 将此war包传到Linux中Hive目录下的li...原创 2018-08-16 19:56:21 · 778 阅读 · 0 评论 -
hive 异常 Establishing SSL connection without server's identity verification is not recommended
在启动hive时出现以下异常:Establishing SSL connection without server's identity verification is not recommended. According to MySQL 5.5.45+, 5.6.26+ and 5.7.6+ requirements SSL connection must be established b...原创 2018-08-16 19:56:14 · 1274 阅读 · 0 评论 -
windows环境下安装配置hadoop
虽然hadoop主要在Linux环境运行,但是开发阶段有时需要在windows电脑上编写并测试程序,故需要在windows环境下安装配置hadoop。此次以hadoop2.7.6为例: 1. 从Apache官网下载2.7.6的binary文件2. 将此文件解压到windows中的任意路径 3.配置环境变量HADOOP_HOME为hadoop的解压文件路径,并在path变量中...原创 2018-08-15 11:32:19 · 646 阅读 · 0 评论 -
securtCRT连接Linux没有输入密码登录的界面
配置Linux (centos) 虚拟机的静态ip后,使用securtCRT连接Linux时发现connect后无法显示输入密码界面,并且cmd中也无法ping通centos的ip 192.168.***.***。自己摸索发现了一个解决办法: 1. 在comzhon中ipconfig发现VMnet8对应的信息如下: 2. 在Linux中配置/etc...原创 2018-08-15 11:17:53 · 13819 阅读 · 0 评论 -
Linux环境ping不通外网unknown host www.baidu.com问题解决
Linux系统在测试网络ping www.baidu.com显示错误unknown host www.baidu.com.可以通过设置虚拟机网络编辑器,将NAT模式中的子网和网关设置为和本机ip一个字段。重新启动即可正常联网。...原创 2018-08-15 11:09:29 · 3435 阅读 · 0 评论 -
ftp传输文件到Linux错误553 Could not ceate file解决
1. 先运行getsebool -a | grep ftp查看selinux中有哪些是关于ftp的2. 设置all_ftpd_anon_write和allow_ftpd_full_access为on状态setsebool -P allow_ftpd_anon_write onsetsebool -P allow_ftpd_full_access on3. 设置完成后,再serv...原创 2018-08-15 10:54:52 · 4896 阅读 · 0 评论 -
8uftp连接linux并传输文件
一、要进行ftp连接,一般需要满足两点1. Linux系统上安装好FTP服务2. 客户端工具:此处选择的是8uftp,安装简单 二、FTP服务的安装配置1. 先确定已关闭防火墙iptables查询状态:service iptables status关闭防火墙:service iptables stop设置开启不启动防火墙: chkconfig iptables of...原创 2018-08-15 10:52:31 · 3053 阅读 · 0 评论 -
securtCRT连接Linux
一、 如果要进行Linux远程连接,需要两点:1. Linux上有ssh服务2. 需要使用ssh客户端工具(此处选择securtCRT) 二、 ssh安装配置1. 关闭防火墙关闭命令:service iptables stop设置开机关闭防火墙:chkconfig iptables off(开机开启防火墙命令:chkconfig iptables on)设置...原创 2018-08-15 11:05:27 · 477 阅读 · 0 评论