问题描述
源码:
HiveJDBCHelper jdbcHelper = HiveJDBCHelper.getInstance();
jdbcHelper.executeUpdate("CREATE TABLE user_data_3 (\n" +
" userid INT,\n" +
" movieid INT,\n" +
" rating INT,\n" +
" unixtime STRING)\n" +
"ROW FORMAT DELIMITED\n" +
"FIELDS TERMINATED BY '\\t'\n" +
"STORED AS TEXTFILE",
null);
SLF4J: Class path contains multiple SLF4J bindings.
SLF4J: Found binding in [jar:file:/home/yeluo/.m2/repository/org/slf4j/slf4j-log4j12/1.7.16/slf4j-log4j12-1.7.16.jar!/org/slf4j/impl/StaticLoggerBinder.class]
SLF4J: Found binding in [jar:file:/home/yeluo/.m2/repository/org/apache/logging/log4j/log4j-slf4j-impl/2.4.1/log4j-slf4j-impl-2.4.1.jar!/org/slf4j/impl/StaticLoggerBinder.class]
SLF4J: See http://www.slf4j.org/codes.html#multiple_bindings for an explanation.
SLF4J: Actual binding is of type [org.slf4j.impl.Log4jLoggerFactory]
log4j:WARN No appenders could be found for logger (org.apache.hive.jdbc.Utils).
log4j:WARN Please initialize the log4j system properly.
log4j:WARN See http://logging.apache.org/log4j/1.2/faq.html#noconfig for more info.
"java.sql.SQLException: Method not supported"
at org.apache.hive.jdbc.HiveConnection.commit(HiveConnection.java:747)
at org.hadoop.project.warehouse.jdbc.HiveJDBCHelper.executeUpdate(HiveJDBCHelper.java:115)
at org.hadoop.project.warehouse.test.HiveJDBCHelperTest.testNormalSQL(HiveJDBCHelperTest.java:35)
at org.hadoop.project.warehouse.test.HiveJDBCHelperTest.main(HiveJDBCHelperTest.java:129)
张三 20
原因是版本问题。
我所使用的hive版本高如下:
hive : spark-hive_2.11
hive-jdbc : 2.1.1
hive-exec : 2.1.1
但是CDH集群中,CDH版本为6.2.0,并且maven仓库中没有专门支持CDH相关的组件依赖,而CDH有一套自己的组件依赖仓库。因此,如果想要利用maven添加相关依赖,则必须单独添加Cloudera的仓库
解决方法
更换hive相关组件的版本,使用CDH提供的依赖。
1. 添加Cloudera仓库
在项目的pom.xml文件中,添加如下仓库
<repositories>
<repository>
<id>cloudera</id>
<url>https://repository.cloudera.com/artifactory/cloudera-repos/</url>
</repository>
<releases>
<enabled>true</enabled>
</releases>
<snapshots>
<enabled>true</enabled>
</snapshots>
</repositories>
2. 添加对应的依赖
你需要在上述的链接指向的Cloudera仓库中,找到符合你需要的组件的版本,例如我的集群环境是CDH6.2.0,那么需要找到的就是对应此集群环境的组件,如我要使用hive-jdbc,那么可以找到如下的`2.1.1-cdh6.2.0’,这就是我们需要的版本。
那么,我们在里面添加依赖如下:
<dependency>
<groupId>org.apache.hive</groupId>
<artifactId>hive-jdbc</artifactId>
<version>2.1.1-cdh6.2.0</version>
</dependency>
3. 网速问题
在国内使用maven中央仓库一般会有网络问题,所以大部分人会使用aliyun仓库或者其他开源的仓库。所以需要修改setting.xml (以下配置中 *,!cloudera 表示除了aliyun仓库还使用cloudera仓库)
<mirror>
<id>nexus-aliyun</id>
<mirrorOf>*,!cloudera</mirrorOf>
<name>Nexus aliyun</name>
<url>
http://maven.aliyun.com/nexus/content/groups/public
</url>
</mirror>
4. 更新maven
若未设置自动更新maven项目,则需更新maven项目,然后等待下载相关依赖。完成之后便可以使用cdh进行开发啦 _。
参考: