Sqoop 是什么?
Apache Sqoop(TM)是一种工具,用于在Apache Hadoop与结构化数据库如关系数据库之间高效地传输大容量数据。
SqooP在2012三月成功地从孵化器毕业,现在是Apache顶级项目:更多信息最新的稳定版本是1.4.7(下载,文档)。Sqoop2的最新版本为1.97.7(下载,文档)。当前大数据存储和Hadoop生态系统中的MapReduce,Hive,HBase,Cassandra,Pig等分析器出现时,他们需要一种工具来与传统的关系数据库服务器进行交互,以导入和导出驻留在其中的大数据。在这里,Sqoop在Hadoop生态系统中占据一席之地,以便在关系数据库服务器和Hadoop的HDFS、Hive、HBase间提供可行的交互.
注意,1.97.7与1.4.7不兼容,而不是功能完备,它暂不用于生产部署。
Sqoop 工作原理什么?
Sqoop导入
导入工具从RDBMS向HDFS导入单独的表。表中的每一行都被视为HDFS中的记录。所有记录都以文本文件的形式存储在文本文件中或作为Avro和Sequence文件中的二进制数据存储。
Sqoop导出
导出工具将一组文件从HDFS导出回RDBMS。给Sqoop输入的文件包含记录,这些记录在表中被称为行。这些被读取并解析成一组记录并用用户指定的分隔符分隔。
Sqoop 安装与配置?
由于Sqoop是Hadoop的子项目,因此它只能在Linux操作系统上运行。按照以下步骤在您的系统上安装Sqoop。