一个多数据源路由问题引发的疑案

缘起

某日需要将线下环境的数据同步到线上环境。这时就涉及到在一个项目中使用多个数据源,一个线下数据源,一个线上数据源的情况。但是使用多数据源的时候,发现多数据源不能正常切换,切换后路由到的数据源还是切换之前的数据源。

案件重现

这个项目的多数据源路由是借助org.springframework.jdbc.datasource.lookup.AbstractRoutingDataSource来做的。

下面是相关代码和配置

public class MultiDataSource extends AbstractRoutingDataSource {

    @Override
    protected Object determineCurrentLookupKey() {
        return DataSourceIdHolder.getDataSourceId();
    }
}
public class DataSourceIdHolder {

    private static final String OFFLINE_DATA_SOURCE = "dataSourceOffline";
    private static final String ONLINE_DATA_SOURCE = "dataSourceOnline";
    private static final String ADMIN_DATA_SOURCE = "adminDataSource";

    private static final ThreadLocal<String> dataSourceTL = ThreadLocal.withInitial(() -> ONLINE_DATA_SOURCE);

    public static void setDataSource(boolean isOnline) {
        dataSourceTL.set(isOnline ? ONLINE_DATA_SOURCE : OFFLINE_DATA_SOURCE);
    }

    public static void useAdminDataSource() {
        dataSourceTL.set(ADMIN_DATA_SOURCE);
    }

    public static boolean isChoosedOnline() {
        return dataSourceTL.get().equals(ONLINE_DATA_SOURCE);
    }

    public static String getDataSourceId() {
        return dataSourceTL.get();
    }

    public static void remove() {
        dataSourceTL.remove();
    }

 <bean id="multipleDataSource" class="com.ytgw.common.dal.domain.datasource.MultiDataSource">
        <property name="targetDataSources">
            <map>
                <entry value-ref="dataSourceOffline" key="dataSourceOffline"/>
                <entry value-ref="dataSourceOnline" key="dataSourceOnline"/>
                <entry value-ref="adminDataSource" key="adminDataSource"/>
            </map>
        </property>
        <property name="defaultTargetDataSource" ref="dataSourceOnline"/>
    </bean>

 <bean id="transactionManager"
          class="org.springframework.jdbc.datasource.DataSourceTransactionManager">
        <property name="dataSource" ref="multipleDataSource"/>
    </bean>

<tx:annotation-driven transaction-manager="transactionManager"/>

下面在一个方法中访问多个数据源,从一个数据源中获取数据,处理后,插入到另外一个数据源,实际情况是在插入数据的时候使用的还是第一个数据源。

    @Transactional
    @Override
    public Long initFlowRules() {
        Long lastId = 0L;
        Long count = 0L;
        while (true) {
            //============这里使用数据源A==================
            doChangeDataSourceToCurrentEnv();
            List<CommunicationLimiterDO> communicationLimiterDOList = communicationLimiterDao
                    .selectByLastId(lastId, 100);
            if (CollectionUtils.isEmpty(communicationLimiterDOList)) {
                break;
            }
            lastId = communicationLimiterDOList.get(communicationLimiterDOList.size() - 1).getId();
            communicationLimiterDOList = communicationLimiterDOList.stream()
                    .filter(communicationLimiterDO -> !communicationLimiterDO.getActionUri().contains("transNotify.do")
                                                      && !communicationLimiterDO.getActionUri().contains("emailSend"))
                    .collect(Collectors.toList());
            if (CollectionUtils.isEmpty(communicationLimiterDOList)) {
                continue;
            }
            count += communicationLimiterDOList.size();
            List<FlowResourceDO> flowResourceDOList = wrapFlowResource(communicationLimiterDOList);
           //==============这里切换到数据源B,实际没有生效,下面的flowRuleDao.batchInsert使用的数据源还是数据源A==================
            useAdminDataSource();
            flowResourceDOList.stream().forEach(flowResourceDO -> flowResourceDao.batchInsert(flowResourceDO));
            List<FlowRuleDO> flowRuleDOList = wrapFlowRule(communicationLimiterDOList);
            for (int i = 0, len = flowRuleDOList.size(); i < len; ++i) {
                flowRuleDOList.get(i).setResourceId(flowResourceDOList.get(i).getId());
            }
            flowRuleDOList.stream().forEach(flowRuleDO -> flowRuleDao.batchInsert(flowRuleDO));
        }
        return count;
    }

第一次执行doChangeDataSourceToCurrentEnv后,mybatis底层执行到BaseExecutor的getConnection方法,这个方法是直接调用trasaction.getConnection()来获取connection的(从截图看到这时的transaction对象是12392),从debug截图看获取到的是test-ytgwConfig数据源,符合预期。

 public Connection getConnection() throws SQLException {
    if (this.connection == null) {
      openConnection();
    }
    return this.connection;
  }

  /**
   * Gets a connection from Spring transaction manager and discovers if this
   * {@code Transaction} should manage connection or let it to Spring.
   * <p>
   * It also reads autocommit setting because when using Spring Transaction MyBatis
   * thinks that autocommit is always false and will always call commit/rollback
   * so we need to no-op that calls.
   */
  private void openConnection() throws SQLException {
    this.connection = DataSourceUtils.getConnection(this.dataSource);
    this.autoCommit = this.connection.getAutoCommit();
    this.isConnectionTransactional = DataSourceUtils.isConnectionTransactional(this.connection, this.dataSource);

    if (logger.isDebugEnabled()) {
      logger.debug(
          "JDBC Connection ["
              + this.connection
              + "] will"
              + (this.isConnectionTransactional ? " " : " not ")
              + "be managed by Spring");
    }
  }

接着走到第二次数据源操作flowRuleDao.batchInsert,从debug切图来看是还是同个trasaction对象,这个时候就直接返回了老trasaction对象的connetion字段,所以导致第二次数据源数据源切换没有生效。

到这里找到了引起问题的原因,至于为什么两次数据源操作获取的都是同一个transaction对象,这个是spring的事务管理机制。

如果要解决这个问题,最简单粗暴的方法就是不使用spring事务,把initFlowRules方法的@Transactional去掉即可。
从下面的debug截图来看,去掉@Transactional后第一次数据源操作使用的transaction对象是12813,访问到的数据源是test-ytgwConfig。

image.png

可以看到第二次数据源操作使用的transaction对象是12876,是一个新的transaction对象,新的transaction对象就会去创建新的connection,这个时候多数据源路由就会生效。

image.png

spring+mybatis事务机制

从下面的图能看到如果开启了事务,第一次数据源操作会创建新的sqlSession(11734)对象并放入threadLocal中。

image.png

从下面的图可以看到第二次数据库操作获取的sqlSession是同一个对象,这因为上面sqlSession已经放入到ThreadLocal中,从threadLocal中就能拿到了。

因为sqlSession对象是同一个,sqlSession引用的executor就是同一个,executor引用的transaction就是同一个,这就解释了上面的transaction是同一个对象的问题。

image.png

如果没有开启事务的情况又是怎么样的呢?从下面的截图可以看到,这个时候
getSqlSession每次都会创建新的sqlSession对象,间接就是每次都会创建新的transaction对象,这样就会触发多数据源路由。

image.png

总结

从这个小问题看,spring事务是不支持多数据源路由的,不支持的原因也是因为在这种场景下多数据源没法保证事务的ACID。

  • 13
    点赞
  • 14
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值