Sqoop 安装配置
下载并解压
安装 Sqoop 的前提是已经具备 Java 和 Hadoop、Hive、ZooKeeper、HBase 的 环境
- 1、上传安装包 sqoop-1.4.6-cdh5.14.2.tar.gz 到虚拟机中 、
- 2、解压 sqoop 安装包到指定目录
tar -zxvf sqoop-1.4.6-cdh5.14.2.tar.gz -C /opt/
- 3、配置环境变量
vi /etc/profile
添加如下内容:
export SQOOP_HOME=/opt/install/sqoop
export PATH=$SQOOP_HOME/bin:$PATH
让配置文件生效
source /etc/profile
修改配置文件
Sqoop 的配置文件与大多数大数据框架类似,在 sqoop 根目录下的conf目录中。
- 1、重命名配置文件
mv sqoop-env-template.sh sqoop-env.sh
- 2、修改配置文件内容
sqoop-env.sh配置文件
修改内容如下:
export HADOOP_COMMON_HOME=/opt/hadoop
export HADOOP_MAPRED_HOME=/opt/hadoop
export HBASE_HOME=/opt/hbase
export HIVE_HOME=/opt/hive
export ZOOCFGDIR=/opt/zookeeper
export ZOOKEEPER_HOME=/opt/zookeeper
拷贝 JDBC 驱动
拷贝/opt/hive/lib/mysql-connector-java-5.1.38.jar 至 /opt/sqoop/lib目录下
cp ../../hive/lib/mysql-connector-java-5.1.38.jar ../lib/
验证 Sqoop
bin/sqoop version
配置 /opt/sqoop/bin/configure-sqoop文件,从而使其结果不出现一些 Warning 警告
使用
:<<!
!
命令注释掉141行-152行内容
测试 Sqoop 是否能够成功连接数据库
bin/sqoop list-databases --connect jdbc:mysql://hadoop001:3306/ --usernam e root --password ok
出现如下输出