【多数据源连接】-Spring整合Hbase、Impala、Orcale三种数据源

       项目中需要按需连接不同的数据源,原项目默认为mysql连接,现在要添加Hbase、Impala、Orcale三种数据源,以支持现有的查询(属于报表子系统)。 MySql、Orcale、Impala是关系型数据库,可以用bean来配置连接池,方便、快捷的完成数据库访问。而Hbase属于列存储数据库,是一个NoSQL数据库,可存储大量非关系型数据。我们这里phoenix来连接Hbase,它相当于一个Java中间件,帮助开发者,像使用jdbc访问关系型数据库一些,访问NoSql数据库HBase。参考phoenix的官方文档发现它属于轻量级连接完全不需要连接池(官方参考地址:http://phoenix.apache.org/faq.html#Should_I_pool_Phoenix_JDBC_Connections)。

       下面我们通过上面的方式分别连接下Orcale、Impala、Hbase这三个数据源,MySql数据库是直接整合了MyBatis,这里不过多叙述。

1、Oracle数据连接池

<bean name="oracledataSource" class="com.alibaba.druid.pool.DruidDataSource"
		init-method="init" destroy-method="close">
		<!-- 数据源驱动类可不写,Druid默认会自动根据URL识别DriverClass -->
		<property name="driverClassName" value="${jdbc.oracleDriverClass}" />
		<property name="url" value="${jdbc.oracleurl}" />
		<property name="username" value="${jdbc.oracleusername}" />
		<property name="password" value="${jdbc.oraclepassword}" />
		<!-- 配置初始化大小、最小、最大 -->
		<property name="initialSize" value="${jdbc.initialSize}" />
		<property name="minIdle" value="${jdbc.minIdle}" />
		<property name="maxActive" value="${jdbc.maxActive}" />
		<!-- 配置获取连接等待超时的时间 -->
		<property name="maxWait" value="60000" />
		<!-- 配置间隔多久才进行一次检测,检测需要关闭的空闲连接,单位是毫秒 -->
		<property name="timeBetweenEvictionRunsMillis" value="60000" />
		<!-- 配置一个连接在池中最小生存的时间,单位是毫秒 -->
		<property name="minEvictableIdleTimeMillis" value="300000" />
		<property name="validationQuery" value="SELECT 'x' FROM DUAL" />
		<property name="testWhileIdle" value="true" />
		<property name="testOnBorrow" value="false" />
		<property name="testOnReturn" value="false" />
		<!-- 打开PSCache,并且指定每个连接上PSCache的大小 -->
		<property name="poolPreparedStatements" value="true" />
		<property name="maxPoolPreparedStatementPerConnectionSize" value="20" />
		<!-- 配置监控统计拦截的filters -->
		<property name="filters" value="stat" />
	</bean>

2、Impala数据连接池 

<bean id="impaldataSource" class="com.cloudera.impala.jdbc4.DataSource">
	<property name="loginTimeout" value="30000"/>
	<property name="URL" value="${jdbc.impalurl}"/>
	<property name="userID" value="${jdbc.impalusername}"/>
	<property name="password" value="${jdbc.impalpassword}"/>
</bean>

 3、Hbase用phoenix工具做连接和普通的MySql连接一样下面有案例供参考;


 这里把三个数据源获取连接的方法做了整合,具体代码如下:

package com.xxx.xxx;

import java.sql.Connection;
import java.sql.DriverManager;
import java.sql.SQLException;
import java.util.List;
import javax.sql.DataSource;

import org.apache.commons.dbutils.QueryRunner;
import org.apache.commons.dbutils.handlers.BeanHandler;
import org.apache.commons.dbutils.handlers.BeanListHandler;
import org.aspectj.lang.JoinPoint;
import org.slf4j.Logger;
import org.slf4j.LoggerFactory;
import org.springframework.jdbc.datasource.DataSourceUtils;

import com.alibaba.druid.pool.DruidDataSource;
import com.ymdd.galaxy.report.utils.system.Param;

public final class DataBaseHelper {
	
    private static final Logger LOGGER = LoggerFactory.getLogger(DataBaseHelper.class);
    //用可插入策略处理SQL查询
    private static final QueryRunner QUERY_RUNNER = new QueryRunner();
    //不同的数据源连接池的id
    private static final String DATA_SOURCE_A = "oracledataSource";
    private static final String DATA_SOURCE_B = "impaldataSource";
    //Hbase的查询工具phoenix的数据驱动
	private static String HBASE_DRIVER = "org.apache.phoenix.queryserver.client.Driver";

    //通过不同id获取不同的连接池从而拿到数据库连接
    public static Connection getImpalaConn(){
        Connection conn = null;
	 com.cloudera.impala.jdbc4.DataSource dataSource = (com.cloudera.impala.jdbc4.DataSource) ApplicationContextHelper.getBean(DATA_SOURCE_B);
        conn = DataSourceUtils.getConnection(dataSource);
        return conn;
    }
    
    public static Connection getOracleConn(){
    	Connection conn = null;
    	 DruidDataSource dataSource = (DruidDataSource) ApplicationContextHelper.getBean(DATA_SOURCE_A);
         conn = DataSourceUtils.getConnection(dataSource);
         return conn;
    }
    //这里没用连接池直接用传统的连接方式连接
    public static Connection getHbaseConn() {
		Connection con=null;
		try {
			Class.forName(HBASE_DRIVER);
			con = DriverManager.getConnection(Param.HbaswUrl);
		} catch (SQLException | ClassNotFoundException e) {
			e.printStackTrace();
		}
		return con;
    }
    /**
     *  关闭连接
     * @param conn
     */
    public static void closeConn(Connection conn){
        if(conn!=null){
            try {
                conn.close();
            } catch (SQLException e) {
                e.printStackTrace();
            }
        }
    }
    /**
     *  关闭连接
     * @param conn、dataSource
     */
    public static void closeConn(Connection conn,DataSource dataSource){
        if(conn!=null){
            try {
                conn.close();
            } catch (SQLException e) {
                e.printStackTrace();
            }
        }
        DataSourceUtils.releaseConnection(conn,  dataSource);
    }

    /**
     * 根据不同连接、查询结果映射的实体类、sql、参数来查询单个实体类的方法封装
     * @param conn、entityClass、sql、params
     */
	private static <T> T aspectByBeanHanlder(Connection conn, Class<T> entityClass, String sql, Object... params) throws SQLException {
		Long startTime = System.currentTimeMillis();
		T entity = QUERY_RUNNER.query(conn,sql,new BeanHandler<T>(entityClass),params);
		Long endTime = System.currentTimeMillis();
		LOGGER.info("【执行查询ByBeanHanlder-SQL总用时】: {}ms", (endTime - startTime));
		return entity;
	}
    /**
     * 根据不同连接、查询结果映射的实体类、sql、参数来查询实体类列表的方法封装
     * @param conn、entityClass、sql、params
     */
	private static <T> List<T> aspectByBeanListHandler(Connection conn, Class<T> entityClass, String sql, Object... params)
			throws SQLException {
		Long startTime = System.currentTimeMillis();
		List<T> entityList = QUERY_RUNNER.query(conn,sql,new BeanListHandler<T>(entityClass),params);
		Long endTime = System.currentTimeMillis();
		LOGGER.info("【执行查询ByBeanListHandler-SQL总用时】: {}ms", (endTime - startTime));
		return entityList;
	}
    
    /**
     * 通用查询实体列表
     * @param entityClass
     * @param sql
     * @param params
     * @param <T>
     * @return
     */
    public  static <T> List<T> QueryEntityList( Connection conn,Class<T> entityClass , String sql, Object ...params ){
        List<T> entityList = null;
        if(conn==null) return entityList;

        try {
            entityList = aspectByBeanListHandler(conn, entityClass, sql, params);

        } catch (Exception e) {
            LOGGER.error("查询失败",e);
        }finally {
            closeConn(conn);
        }
        return  entityList;
    }
    
    /**
     * 通用查询实体
     * @param entityClass
     * @param sql
     * @param params
     * @param <T>
     * @return
     */
    public  static <T> T QueryEntity(Connection conn,Class<T> entityClass , String sql, Object ...params ){
        T entity = null;
        if(conn==null) return entity;
        try {
            entity = aspectByBeanHanlder(conn, entityClass, sql, params);

        } catch (Exception e) {
            LOGGER.error("查询失败",e);
        }finally {
            closeConn(conn);
        }
        return  entity;
    }

    /**
     * Impala查询实体列表
     * @param entityClass
     * @param sql
     * @param params
     * @param <T>
     * @return
     */
    public  static <T> List<T> QueryEntityList(Class<T> entityClass , String sql, Object ...params ){
        List<T> entityList = null;
        Connection conn = getImpalaConn();

        if(conn==null) return entityList;

        try {
            entityList = aspectByBeanListHandler(conn, entityClass, sql, params);
        } catch (Exception e) {
            LOGGER.error("查询失败",e);
        }finally {
            closeConn(conn);
        }
        return  entityList;
     }

    /**
     * Impala查询实体
     * @param entityClass
     * @param sql
     * @param params
     * @param <T>
     * @return
     */
    public  static <T> T QueryEntity(Class<T> entityClass , String sql, Object ...params ){
        T entity = null;
        Connection conn = getImpalaConn();
        if(conn==null) return entity;
        try {
            entity = aspectByBeanHanlder(conn, entityClass, sql, params);

        } catch (Exception e) {
            LOGGER.error("查询失败",e);
        }finally {
            closeConn(conn);
        }
        return  entity;
    }

    /**
     * Oracle查询实体列表
     * @param entityClass
     * @param sql
     * @param params
     * @param <T>
     * @return
     */
    public  static <T> List<T> QueryEntityListOracle(Class<T> entityClass , String sql, Object ...params ){
        List<T> entityList = null;
        Connection conn = getOracleConn();

        if(conn==null) return entityList;

        try {
            entityList = aspectByBeanListHandler(conn, entityClass, sql, params);
        } catch (Exception e) {
            LOGGER.error("查询失败",e);
        }finally {
            closeConn(conn);
        }
        return  entityList;
     }

    /**
     * Oracle查询实体
     * @param entityClass
     * @param sql
     * @param params
     * @param <T>
     * @return
     */
    public  static <T> T QueryEntityOracle(Class<T> entityClass , String sql, Object ...params ){
        T entity = null;
        Connection conn = getOracleConn();
        if(conn==null) return entity;
        try {
            entity = aspectByBeanHanlder(conn, entityClass, sql, params);

        } catch (Exception e) {
            LOGGER.error("查询失败",e);
        }finally {
            closeConn(conn);
        }
        return  entity;
    }

    /**
     * Hbase查询实体
     * @param entityClass
     * @param sql
     * @param params
     * @param <T>
     * @return
     */
    public  static <T> T QueryEntityHbase(Class<T> entityClass , String sql, Object ...params ){
        T entity = null;
        Connection conn = getHbaseConn();
        if(conn==null) return entity;
        try {
            entity = aspectByBeanHanlder(conn, entityClass, sql, params);

        } catch (Exception e) {
            LOGGER.error("查询失败",e);
        }finally {
            closeConn(conn);
        }
        return  entity;
    }
    /**
     * Hbase查询实体列表
     * @param entityClass
     * @param sql
     * @param params
     * @param <T>
     * @return
     */
    public  static <T> List<T> QueryEntityListHbase(Class<T> entityClass , String sql, Object ...params ){
        List<T> entityList = null;
        Connection conn = getHbaseConn();
        if(conn==null) return entityList;
        try {
            entityList = aspectByBeanListHandler(conn, entityClass, sql, params);
        } catch (Exception e) {
            LOGGER.error("查询失败",e);
        }finally {
            closeConn(conn);
        }
        return  entityList;
    }
    
}

     有这个类之后,在代码里可以直接通过写sql的形式来完成对数据库的查询以及映射 ,具体用法如下:

      以Hbase连接为例(上面类中的方法即可查询到你想要的数据):

CargoEntity assessmentMonthDayVo = DataBaseHelper.QueryEntityHbase(CargoEntity.class, sb.toString(), deptCode);
List<CargoEntity> assessmentDayRankList = DataBaseHelper.QueryEntityListHbase(CargoEntity.class, sb.toString(), deptCode);

      有问题欢迎留言,有遗漏或者改正的地方还请大牛们多多指教!

  • 2
    点赞
  • 7
    收藏
    觉得还不错? 一键收藏
  • 4
    评论
评论 4
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值