CDH 之 hive 数据迁移_cdh数据互导(1)

最新推荐文章于 2024-05-28 14:33:56 发布

2401_84166811

最新推荐文章于 2024-05-28 14:33:56 发布

阅读量348

点赞数 5

文章标签： hive hadoop 数据仓库

本文链接：https://blog.csdn.net/2401_84166811/article/details/138234492

版权

# database 即是数据库名称
hive -e "use <database>; show tables;" | xargs -I '{}' sh -c 'hive -e "use <database>; show create table '{}';"' > tables.sql

2.将原服务器中 hive 库文件复制到本地（将 test 这个数据库文件复制到本地 /path/to/destination 目录下，这个会消耗比较长的时间）

hadoop fs -get /user/hive/warehouse/test.db/ /path/to/destination/

将导下来的 tables.sql 和 test.db 库文件上传至目标服务器，导入 sql 文件（前提是源服务器和目的服务器的hive版本要一致，否则需要做相关转换）

3.查看 hive 版本并导入 tables.sql

先创建数据库
hive> show databases;
OK
default
Time taken: 1.399 seconds, Fetched: 1 row(s)
hive> create database test;
FAILED: Execution Error, return code 1 from org.apache.hadoop.hive.ql.exec.DDLTask. MetaException(message:Got exception: org.apache.hadoop.security.AccessControlException Permission denied: user=root, access=WRITE, inode="/user":hdfs:hadoop:drwxr-xr-x
        at org.apache.hadoop.hdfs.server.namenode.FSPermissionChecker.check(FSPermissionChecker.java:400)
        at org.apache.hadoop.hdfs.server.namenode.FSPermissionChecker.checkPermission(FSPermissionChecker.java:256)
        at org.apache.hadoop.hdfs.server.namenode.FSPermissionChecker.checkPermission(FSPermissionChecker.java:194)
        at org.apache.hadoop.hdfs.server.namenode.FSDirectory.checkPermission(FSDirectory.java:1855)
        at org.apache.hadoop.hdfs.server.namenode.FSDirectory.checkPermission(FSDirectory.java:1839)
        at org.apache.hadoop.hdfs.server.namenode.FSDirectory.checkAncestorAccess(FSDirectory.java:1798)
        at org.apache.hadoop.hdfs.server.namenode.FSDirMkdirOp.mkdirs(FSDirMkdirOp.java:61)
        at org.apache.hadoop.hdfs.server.namenode.FSNamesystem.mkdirs(FSNamesystem.java:3101)
        at org.apache.hadoop.hdfs.server.namenode.NameNodeRpcServer.mkdirs(NameNodeRpcServer.java:1123)
        at org.apache.hadoop.hdfs.protocolPB.ClientNamenodeProtocolServerSideTranslatorPB.mkdirs(ClientNamenodeProtocolServerSideTranslatorPB.java:696)
        at org.apache.hadoop.hdfs.protocol.proto.ClientNamenodeProtocolProtos$ClientNamenodeProtocol$2.callBlockingMethod(ClientNamenodeProtocolProtos.java)
        at org.apache.hadoop.ipc.ProtobufRpcEngine$Server$ProtoBufRpcInvoker.call(ProtobufRpcEngine.java:523)
        at org.apache.hadoop.ipc.RPC$Server.call(RPC.java:991)
        at org.apache.hadoop.ipc.Server$RpcCall.run(Server.java:869)
        at org.apache.hadoop.ipc.Server$RpcCall.run(Server.java:815)
        at java.security.AccessController.doPrivileged(Native Method)
        at javax.security.auth.Subject.doAs(Subject.java:422)
        at org.apache.hadoop.security.UserGroupInformation.doAs(UserGroupInformation.java:1875)
        at org.apache.hadoop.ipc.Server$Handler.run(Server.java:2675)
)

报错的原因是：Hive没有足够的权限来在HDFS上创建数据库目录。默认情况下，Hive使用当前用户的身份来执行操作，因此需要确保当前用户（在这种情况下为“root”）具有在HDFS上创建目录的权限，或者进入 hdfs 用户进行操作

（1）用如下命令创建数据库：

#查看 hive 是否有 /user 目录的权限
[root@hadoop105 hive_db]# hdfs dfs -ls /
drwxr-xr-x   - hdfs hadoop              0 2023-05-26 17:52 /user
#如下操作创建数据库
[root@hadoop105 hive_db]# su - hdfs
Last login: Fri May 26 17:49:25 CST 2023 on pts/1
#进入hive交互命令行执行 create database test; 
[hdfs@hadoop105 ~]$ hive
hive> create database test;
#或者直接用下面命令创建数据库
[hdfs@hadoop105 ~]$ hive -e "create database test;"

（2）导入 tables.sql

# tables.sql 文件删除 LOCATION 到下一条 create 命令直接的内容
LOCATION
  'hdfs://hadoop40/user/hive/warehouse/***/***

#可以用如下正则表达式进行批量删除：(即删除从LOCATION开始到下一个CREATE前的内容，改表达式的最后一个LOCATION需要手动删除)
:g/LOCATION/,/CREATE/-1d

#进行导入：
[root@hadoop105 ~]# su - hdfs
[hdfs@hadoop105 ~]$ hive
hive> use test;
hive> source /path/to/destination/tables.sql



![img](https://img-blog.csdnimg.cn/img_convert/7c82b06a275c5fd1fc8adade980e3107.png)
![img](https://img-blog.csdnimg.cn/img_convert/c9caaa69dbbe7b0614d7e85015bdb2a9.png)

**网上学习资料一大堆，但如果学到的知识不成体系，遇到问题时只是浅尝辄止，不再深入研究，那么很难做到真正的技术提升。**

**[需要这份系统化资料的朋友，可以戳这里获取](https://bbs.csdn.net/topics/618545628)**


**一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**


**一个人可以走的很快，但一群人才能走的更远！不论你是正从事IT行业的老鸟或是对IT行业感兴趣的新人，都欢迎加入我们的的圈子（技术交流、学习资源、职场吐槽、大厂内推、面试辅导），让我们一起学习成长！**