HIve项目中常见错误，及修改办法

最新推荐文章于 2023-05-15 15:07:39 发布

lz_N_one

最新推荐文章于 2023-05-15 15:07:39 发布

阅读量1.1k

点赞数

分类专栏：数据仓库 Hive基础文章标签： hive hadoop java

本文链接：https://blog.csdn.net/lz_N_one/article/details/126055698

版权

本文列举了在Hive项目中可能遇到的各种问题，包括SecureCRT乱码、连接不上MySQL数据库、Hive输入格式处理、MapReduce执行失败、MySQL服务启动异常等，并提供了详细的解决办法，如修改配置、替换JAR包、同步集群时间等。

摘要由CSDN通过智能技术生成

1）SecureCRT 7.3出现乱码或者删除不掉数据，免安装版的SecureCRT 卸载或者用虚拟机直接操作或者换安装版的SecureCRT

2）连接不上mysql数据库

（1）导错驱动包，应该把mysql-connector-java-5.1.27-bin.jar导入/opt/module/hive/lib的不是这个包。错把mysql-connector-java-5.1.27.tar.gz导入hive/lib包下。

（2）修改user表中的主机名称没有都修改为%，而是修改为localhost

3）hive默认的输入格式处理是CombineHiveInputFormat，会对小文件进行合并。

hive (default)> set hive.input.format;

hive.input.format=org.apache.hadoop.hive.ql.io.CombineHiveInputFormat

可以采用HiveInputFormat就会根据分区数输出相应的文件。

hive (default)> set hive.input.format=org.apache.hadoop.hive.ql.io.HiveInputFormat;

4）不能执行mapreduce程序

可能是hadoop的yarn没开启。

5）启动mysql服务时，报MySQL server PID file could not be found! 异常。

在/var/lock/subsys/mysql路径下创建hadoop102.pid，并在文件中添加内容：4396

6）报service mysql status MySQL is not running, but lock file (/var/lock/subsys/mysql[失败])异常。

解决方案：在/var/lib/mysql 目录下创建： -rw-rw----. 1 mysql mysql 5 12月 22 16:41 hadoop102.pid 文件，并修改权限为 777。

7）JVM堆内存溢出

//描述：java.lang.OutOfMemoryError: Java heap space

//解决：在yarn-site.xml中加入如下代码

yarn.scheduler.maximum-allocation-mb 2048 
yarn.scheduler.minimum-allocation-mb 2048
yarn.nodemanager.vmem-pmem-ratio 2.1 
mapred.child.java.opts -Xmx1024m

8、执行/usr/bin/hive命令进入hive时遇到如下错误：

Logging initialized using configuration in jar:file:/opt/cloudera/parcels/CDH-5.7.3-1.cdh5.7.3.p0.5/jars/hive-common-1.1.0-cdh5.7.3.jar!/hive-log4j.properties
Exception in thread “main” java.lang.RuntimeException: java.lang.RuntimeException: Unable to instantiate org.apache.hadoop.hive.ql.metadata.SessionHiveMetaStoreClient
at org.apache.hadoop.hive.ql.session.SessionState.start(SessionState.java:540)
at org.apache.hadoop.hive.cli.CliDriver.run(CliDriver.java:689)
at org.apache.hadoop.hive.cli.CliDriver.main(CliDriver.java:628)
at sun.reflect.NativeMethodAccessorImpl.invoke0(Native Method)
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:57)
at sun.reflect.DelegatingMethodAccessorImpl.