1)连接不上MySQL数据库
(1)导错驱动包,应该把mysql-connector-java-5.1.27-bin.jar导入/opt/module/hive/lib的不是这个包。错把mysql-connector-java-5.1.27.tar.gz导入hive/lib包下。
(2)修改user表中的主机名称没有都修改为%,而是修改为localhost
2)Hive默认的输入格式处理是CombineHiveInputFormat,会对小文件进行合并。
hive (default)> set hive.input.format;
hive.input.format=org.apache.hadoop.hive.ql.io.CombineHiveInputFormat
可以采用HiveInputFormat就会根据分区数输出相应的文件。
hive (default)> set hive.input.format=org.apache.hadoop.hive.ql.io.HiveInputFormat;
3)不能执行MapReduce程序
可能是Hadoop的Yarn没开启。
4)启动MySQL服务时,报MySQL server PID file could not be found! 异常。
在/var/lock/subsys/mysql路径下创建hadoop102.pid,并在文件中添加内容:4396
5)报service mysql status MySQL is not running, butlock file(/var/lock/subsys/mysql[失败])异常。
解决方案:在/var/lib/mysql目录下创建:-rw-rw----. 1 mysql mysql 5 12月 22 16:41 hadoop102.pid文件,并修改权限为777。
6)JVM堆内存溢出(Hive集群运行模式)
描述:java.lang.OutOfMemoryError: Javaheap space
解决:在yarn-site.xml中加入如下代码。
<property>
<name>yarn.scheduler.maximum-allocation-mb</name>
<value>2048</value>
</property>
<property>
<name>yarn.scheduler.minimum-allocation-mb</name>
<value>2048</value>
</property>
<property>
<name>yarn.nodemanager.vmem-pmem-ratio</name>
<value>2.1</value>
</property>
<property>
<name>mapred.child.java.opts</name>
<value>-Xmx1024m</value>
</property>
7)JVM堆内存溢出(Hive本地运行模式)
描述:在启用Hive本地模式后,hive.log报错java.lang.OutOfMemoryError: Java heap space
解决方案1(临时):
在Hive客户端临时设置io.sort.mb和mapreduce.task.io.sort.mb两个参数的值为10。
0: jdbc:hive2://hadoop102:10000> set io.sort.mb;
+-----------------+
| set |
+-----------------+
| io.sort.mb=100 |
+-----------------+
1 row selected (0.008 seconds)
0: jdbc:hive2://hadoop102:10000> set mapreduce.task.io.sort.mb;
+--------------------------------+
| set |
+--------------------------------+
| mapreduce.task.io.sort.mb=100 |
+--------------------------------+
1 row selected (0.008 seconds)
0: jdbc:hive2://hadoop102:10000> set io.sort.mb = 10;
No rows affected (0.005 seconds)
0: jdbc:hive2://hadoop102:10000> set mapreduce.task.io.sort.mb = 10;
No rows affected (0.004 seconds)
解决方案2(永久生效):
在$HIVE_HOME/conf下添加hive-env.sh。
[atguigu@hadoop102 conf]$ pwd
/opt/module/hive/conf
[atguigu@hadoop102 conf]$ cp hive-env.sh.template hive-env.sh
然后将其中的参数export HADOOP_HEAPSIZE=1024的注释放开,然后重启Hive。
8)虚拟内存限制
在yarn-site.xml中添加如下配置:
<property>
<name>yarn.nodemanager.vmem-check-enabled</name>
<value>false</value>
</property>