集成 sharding-jdbc 启动慢

  1. 项目要做数据库水平分表,集成了sharding-jdbc。集成后本地开发项目启动慢要5分钟左右
    在这里插入图片描述
    根据日志找到源码执行位置 org.apache.shardingsphere.core.metadata.ShardingMetaDataLoader#loadShardingSchemaMetaData
  private SchemaMetaData loadShardingSchemaMetaData(DatabaseType databaseType) throws SQLException {
        log.info("Loading {} logic tables' meta data.", this.shardingRule.getTableRules().size());
        Map<String, TableMetaData> tableMetaDataMap = new HashMap(this.shardingRule.getTableRules().size(), 1.0F);
        Iterator var3 = this.shardingRule.getTableRules().iterator();

        while(var3.hasNext()) {
            TableRule each = (TableRule)var3.next();
            tableMetaDataMap.put(each.getLogicTable(), this.load(each.getLogicTable(), databaseType));
        }

        return new SchemaMetaData(tableMetaDataMap);
    }

SchemaMetaDataLoader.load (org.apache.shardingsphere.core.metadata.ShardingMetaDataLoader#loadDefaultSchemaMetaData ) 耗时较长 ,看到第二个参数值 this.maxConnectionsSizePerQuery 默认为1

   private SchemaMetaData loadDefaultSchemaMetaData(DatabaseType databaseType) throws SQLException {
        Optional<String> actualDefaultDataSourceName = this.shardingRule.findActualDefaultDataSourceName();
        return actualDefaultDataSourceName.isPresent() ? SchemaMetaDataLoader.load((DataSource)this.dataSourceMap.get(actualDefaultDataSourceName.get()), this.maxConnectionsSizePerQuery, databaseType.getName()) : new SchemaMetaData(Collections.emptyMap());
    }

官方解释: sharding-jdbc java配置手册
https://shardingsphere.apache.org/document/legacy/4.x/document/cn/manual/sharding-jdbc/configuration/config-java/

增加配置修改 maxConnectionsSizePerQuery 为 30

spring:
    shardingsphere:
        props:
            max:
                connections:
                    size:
                        per:
                            query: 30

修改后重启项目,加载时间由 328302 ms 降至 51977 ms,由此问题解决。

  1. 那么为什么修改连接数后就快了?
    接着追查源码 org.apache.shardingsphere.sql.parser.binder.metadata.schema.SchemaMetaDataLoader#load(javax.sql.DataSource, int, java.lang.String),复制出关键代码,注释含义

    public static SchemaMetaData load(DataSource dataSource, int maxConnectionCount, String databaseType) throws SQLException {
        Connection connection = dataSource.getConnection();
        Throwable var5 = null;

        List tableNames;
        try {
            tableNames = loadAllTableNames(connection);
        } catch (Throwable var14) {
            var5 = var14;
            throw var14;
        } finally {
            if (connection != null) {
                if (var5 != null) {
                    try {
                        connection.close();
                    } catch (Throwable var13) {
                        var5.addSuppressed(var13);
                    }
                } else {
                    connection.close();
                }
            }

        }

        log.info("Loading {} tables' meta data.", tableNames.size());
        if (0 == tableNames.size()) {
            return new SchemaMetaData(Collections.emptyMap());
        } else {
        	// 根据最大连接数切分 tableNames 得出 tableGroups
            List<List<String>> tableGroups = Lists.partition(tableNames, Math.max(tableNames.size() / maxConnectionCount, 1));
            //  如果 tableGroups 不等于1,调用 asyncLoad 方法多线程加载元数据信息
            Map<String, TableMetaData> tableMetaDataMap = 1 == tableGroups.size() ? load(dataSource.getConnection(), (Collection)tableGroups.get(0), databaseType) : asyncLoad(dataSource, maxConnectionCount, tableNames, tableGroups, databaseType);
            return new SchemaMetaData(tableMetaDataMap);
        }
    }




private static Map<String, TableMetaData> asyncLoad(DataSource dataSource, int maxConnectionCount, List<String> tableNames, List<List<String>> tableGroups, String databaseType) throws SQLException {
        Map<String, TableMetaData> result = new ConcurrentHashMap(tableNames.size(), 1.0F);
        ExecutorService executorService = Executors.newFixedThreadPool(Math.min(tableGroups.size(), maxConnectionCount));
        Collection<Future<Map<String, TableMetaData>>> futures = new LinkedList();
        Iterator var8 = tableGroups.iterator();

        while(var8.hasNext()) {
            List<String> each = (List)var8.next();
            futures.add(executorService.submit(() -> {
                return load(dataSource.getConnection(), each, databaseType);
            }));
        }

        var8 = futures.iterator();

        while(var8.hasNext()) {
            Future<Map<String, TableMetaData>> each = (Future)var8.next();

            try {
                result.putAll((Map)each.get());
            } catch (ExecutionException | InterruptedException var11) {
                if (var11.getCause() instanceof SQLException) {
                    throw (SQLException)var11.getCause();
                }

                Thread.currentThread().interrupt();
            }
        }

        return result;
    }
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
### 回答1: Spring Boot集成Sharding-JDBC可以实现分库分表的功能,提高数据库的性能和扩展性。具体步骤如下: 1. 引入Sharding-JDBC的依赖: ```xml <dependency> <groupId>org.apache.shardingsphere</groupId> <artifactId>sharding-jdbc-core</artifactId> <version>4.1.1</version> </dependency> ``` 2. 配置Sharding-JDBC的数据源: ```yaml spring: shardingsphere: datasource: names: ds, ds1 ds: type: com.zaxxer.hikari.HikariDataSource driver-class-name: com.mysql.jdbc.Driver jdbc-url: jdbc:mysql://localhost:3306/db username: root password: root ds1: type: com.zaxxer.hikari.HikariDataSource driver-class-name: com.mysql.jdbc.Driver jdbc-url: jdbc:mysql://localhost:3306/db1 username: root password: root sharding: tables: user: actual-data-nodes: ds$->{..1}.user_$->{..1} table-strategy: inline: sharding-column: id algorithm-expression: user_$->{id % 2} ``` 3. 配置Sharding-JDBC的规则: ```yaml spring: shardingsphere: sharding: default-database-strategy: inline: sharding-column: id algorithm-expression: ds$->{id % 2} sharding-algorithms: database-inline: type: INLINE props: algorithm-expression: ds$->{id % 2} table-inline: type: INLINE props: algorithm-expression: user_$->{id % 2} ``` 4. 编写代码进行测试: ```java @Service public class UserServiceImpl implements UserService { @Autowired private UserMapper userMapper; @Override public void addUser(User user) { userMapper.addUser(user); } @Override public User getUserById(Long id) { return userMapper.getUserById(id); } @Override public List<User> getAllUsers() { return userMapper.getAllUsers(); } } ``` 以上就是Spring Boot集成Sharding-JDBC的基本步骤,可以根据实际需求进行配置和调整。 ### 回答2: Sharding-JDBC是一个开源的基于JDBC的分库分表中间件,它可以对表数据进行分库、分表、分片等操作,从而实现高并发和高扩展性等需求。Spring Boot是一个基于Spring框架的全栈式Java开发框架,它简化了应用程序的搭建和开发,提供了诸如自动配置、依赖管理和运行时应用程序监控等功能。 Spring Boot集成Sharding-JDBC的过程如下: 1.添加Sharding-JDBC的依赖:在pom.xml文件中添加Sharding-JDBC的依赖。 2.配置连接池:在application.properties或application.yml中配置数据源的连接信息与连接池信息。 3.配置分库分表规则:在application.properties或application.yml中配置Sharding-JDBC的分库分表规则,可以通过多种方式配置。 4.编写Mapper和Service层代码:在Mapper和Service层中编写SQL语句以及对数据库进行操作的方法。 5.测试:编写测试代码对Sharding-JDBC进行测试,以确保其正确性和可用性。 以上就是Spring Boot集成Sharding-JDBC的过程,通过该过程可以实现高并发和高扩展性等需求,其具有简单易用和优秀的性能等特点,为企业级开发提供了一种高效、安全和可控的技术解决方案。 ### 回答3: 随着互联网技术的不断发展,越来越多的企业和项目需要使用分库分表技术来应对数据量的不断增大。而Sharding-JDBC是一个分库分表框架,它的出现给开发者提供了一种轻松便捷集成分库分表的方式。而Spring Boot则是一个非常流行的快速开发框架,它可以帮助开发者快速搭建应用程序。本文将介绍如何在Spring Boot中集成Sharding-JDBC。 第一步是引入相关依赖。在pom.xml文件中加入以下依赖: ``` <dependency> <groupId>org.apache.shardingsphere</groupId> <artifactId>sharding-jdbc-core</artifactId> <version>5.0.0-alpha</version> </dependency> <dependency> <groupId>org.springframework.boot</groupId> <artifactId>spring-boot-starter-jdbc</artifactId> </dependency> ``` 第二步是配置Sharding-JDBC。我们要对分库分表进行配置,需要按照以下步骤进行: 1. 配置数据源(DataSources):我们需要配置每个数据库JDBC连接信息。 2. 配置数据源(DataSourceRule):将多个数据源合并成一个虚拟数据源,给程序使用。 3. 配置分表策略(TableRule):为每个数据表设置分表策略,指定分表算法和分表键等信息。 4. 配置分库策略(DatabaseShardingStrategy):为每个分表设置分库策略,指定分库算法和分库键等信息。 5. 配置分表算法(ShardingAlgorithm):设置分表算法。 6. 配置分库算法(ShardingAlgorithm):设置分库算法。 以上步骤可以参考Sharding-JDBC的官方文档。 第三步是将Sharding-JDBC注入到Spring Boot中。我们需要在配置类(通常是application.yml或application.properties文件)中配置数据源和Sharding-JDBC的相关信息。 ``` spring: sharding: jdbc: # 配置数据源 dataSources: ds0: url: jdbc:mysql://localhost:3306/db0?serverTimezone=UTC&useSSL=false&useUnicode=true&characterEncoding=UTF-8 username: root password: root ds1: url: jdbc:mysql://localhost:3306/db1?serverTimezone=UTC&useSSL=false&useUnicode=true&characterEncoding=UTF-8 username: root password: root # 配置数据源规则 dataSourceRule: # 主从配置,选择哪个数据源(ds0 或 ds1) masterDataSourceName: ds0 slaveDataSourceNames: ds1 # 配置分片规则 shardingRule: # 配置分表规则 tableRules: - logicTable: t_order # 逻辑表名 actualDataNodes: ds${0..1}.t_order_${0..1} # 真实表名 tableStrategy: standard: shardingColumn: order_id shardingAlgorithmName: t_order_inline # 配置分库规则 databaseShardingStrategy: standard: shardingColumn: user_id shardingAlgorithmName: database_inline # 配置分片算法 shardingAlgorithms: t_order_inline: type: INLINE props: algorithm-expression: t_order_${order_id % 2} database_inline: type: INLINE props: algorithm-expression: ds${user_id % 2} ``` 最后,在需要使用的地方使用即可。比如在服务类中注入DataSource即可使用。 总之,Spring Boot集成Sharding-JDBC并不复杂,只需要按照上述步骤配置即可。如果还有不清楚的地方,可以查看Sharding-JDBC的官方文档。
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值